100K 토큰 프롬프트 모델 저하

INSIGHT·Medium - Prompt Engineering·Moniruzzaman Nayon·2026-08-12

요약

•18개 AI 모델이 긴 입력에서 성능이 지속적으로 저하됨을 Chroma 및 연구팀이 확인함

•핵심 정보 위치가 문맥 시작과 끝에 있어야 30% 이상 정확도 향상 가능하다고 밝혀짐

•문맥 조립과 핵심 정보 배치 최적화, 불필요 내용 제거가 업무 성능 향상과 직결됨