LeanX
올라마
내 컴퓨터에서 AI 모델을 직접 내려받아 실행할 수 있게 해주는 도구입니다. 모델을 받은 뒤에는 인터넷 없이도 쓸 수 있고, 입력한 데이터를 외부 서버로 보내지 않고 처리할 수 있습니다.
쉽게 말하면
보통 AI는 인터넷으로 먼 곳의 서버 컴퓨터한테 물어보는 건데, Ollama를 쓰면 AI를 내 컴퓨터 안에 직접 설치해서 인터넷 없이도 쓸 수 있어요! 비밀 일기 같은 것도 안심하고 물어볼 수 있죠!
예시
ollama run llama3 → 내 노트북에서 AI가 바로 실행됨 → 회사 코드를 외부 서버로 보내지 않고 분석 가능
함께 보면 좋은 용어
GGUF, vLLM
더 배우기
AX 가이드 전체 보기
다음 단계
이 개념을 우리 팀 업무에 어떻게 적용할지 고민된다면 아래에서 시작할 수 있습니다.