2과2-1
컨텍스트가 전부다
같은 질문에도 다른 답이 나오는 이유, 컨텍스트 윈도우 개념을 쉽게 이해합니다
왜 같은 질문에 다른 답이 나올까요?
AI에게 '이 계약서 검토해줘'라고만 하면 막연한 답이 돌아옵니다. 하지만 '나는 50명 규모 IT 스타트업의 법무 담당자야. 이 계약서의 손해배상 조항이 우리 회사에 불리한 부분이 있는지 검토해줘'라고 하면 훨씬 날카로운 답이 나옵니다.
이 차이를 만드는 것이 바로 컨텍스트(context)입니다. 컨텍스트란 AI가 답변을 생성할 때 참고하는 '모든 정보'를 말합니다. 당신의 역할, 배경 상황, 이전 대화 내용, 첨부한 문서까지 전부 포함합니다.
컨텍스트 윈도우란 무엇인가요?
AI는 한 번에 처리할 수 있는 정보의 양에 한계가 있습니다. 이 한계를 '컨텍스트 윈도우'라고 부릅니다. 마치 책상 위에 올려놓을 수 있는 종이의 양과 같습니다. 책상이 클수록 더 많은 문서를 동시에 참고할 수 있습니다.
단위는 '토큰(token)'입니다. 한국어 기준으로 1토큰은 대략 0.5~1자 정도입니다. 최신 Claude는 약 100만 토큰을 지원하는데, 이는 한국어 약 50만 자, 즉 중편 소설 한 권 분량에 해당합니다.
컨텍스트 윈도우가 클수록 더 긴 문서를 한 번에 분석하고, 더 길고 복잡한 작업을 맥락을 잃지 않고 처리할 수 있습니다.
TIP: 대화가 길어지면 앞부분의 맥락을 AI가 잊는 현상이 생길 수 있습니다. 중요한 정보는 대화 초반에 명확히 정리해 두는 것이 좋습니다.
컨텍스트를 잘 쌓는 3가지 방법
첫째, 역할과 배경을 먼저 설명하세요. 대화를 시작할 때 '나는 누구이고 무엇을 하려는지'를 한 문단으로 정리해 주면 AI가 모든 답변의 기준점으로 삼습니다.
둘째, 관련 문서를 함께 제공하세요. 계약서, 보고서, 데이터 파일을 첨부하면 AI가 직접 읽고 분석합니다. '요약해줘', '검토해줘', '문제점 찾아줘'처럼 문서 기반 질문이 가능해집니다.
셋째, 이전 대화를 요약해 새 대화에 넣으세요. 대화가 초기화되면 이전 맥락이 사라집니다. 중요한 결론은 메모해 두었다가 새 대화 시작 시 붙여넣으세요.
핵심 정리
- ✓컨텍스트는 AI가 참고하는 모든 정보이며, 컨텍스트의 질이 답변의 질을 결정합니다.
- ✓컨텍스트 윈도우는 AI가 한 번에 처리하는 정보 양의 한계이며, 최신 Claude는 약 100만 토큰을 지원합니다.
- ✓역할 설명, 문서 첨부, 이전 대화 요약으로 컨텍스트를 풍부하게 만드세요.
자주 묻는 질문
컨텍스트 윈도우가 가득 차면 어떻게 되나요?+
대화 초반에 입력한 내용부터 AI가 참고하지 못하게 됩니다. 긴 작업을 할 때는 중간중간 중요한 내용을 별도로 저장해 두고, 새 대화를 시작할 때 핵심 내용만 요약해서 다시 제공하는 것이 좋습니다.
Claude와 ChatGPT의 컨텍스트 윈도우 차이가 있나요?+
2026년 기준 Claude는 최대 100만 토큰, ChatGPT-4o는 약 12만 8천 토큰을 지원합니다. 긴 계약서, 대용량 보고서, 긴 코드베이스 분석에는 Claude가 훨씬 유리합니다.