LeanX
컨텍스트 윈도우
AI 모델이 한 번에 읽고 처리할 수 있는 텍스트의 최대 길이로, 토큰 수로 셉니다. 컨텍스트 윈도우가 클수록 더 긴 대화나 코드를 한 번에 다룰 수 있고, 한도를 넘으면 앱에 따라 앞부분이 빠지거나 요약되고, API 호출은 보통 오류를 돌려줍니다.
쉽게 말하면
시험 볼 때 오픈북이면 책 전체를 볼 수 있지만, 한 페이지만 볼 수 있으면 거기 적힌 것만 참고할 수 있죠? AI의 기억력 크기가 컨텍스트 윈도우예요!
예시
크기는 모델마다 달라 수만 토큰부터 일부 모델은 백만 토큰 이상까지 다룸 → 채팅 앱에서 긴 대화가 한도를 넘으면 앞부분이 빠지거나 요약돼, AI가 처음에 준 지시를 놓칠 수 있음
함께 보면 좋은 용어
토큰, 컨텍스트 엔지니어링, RAG
더 배우기
관련 AX 가이드 강의 보기
다음 단계
이 개념을 우리 팀 업무에 어떻게 적용할지 고민된다면 아래에서 시작할 수 있습니다.