LLM 에이전트 컨텍스트 가지치기 파이프라인 만들기
중급35분2026-06-02
전체 대화 기록을 매번 넣는 대신 현재 요청과 의미가 비슷한 과거 대화와 최근 대화를 골라 컨텍스트를 최적화합니다. SentenceTransformer와 cosine 유사도를 이용해 가지치기 로직을 구현하고, 가지치기 전후 결과를 비교하는 Python 파일 1개와 출력 결과를 만듭니다.
이 코칭은 터미널에서 진행됩니다
오른쪽 패널에서 설치 명령어를 복사하세요이런 걸 배워요
- 현재 요청과 관련 있는 과거 대화를 의미 기준으로 선별할 수 있습니다
- 최근 대화와 관련 대화를 함께 보존하는 컨텍스트 정책을 구현할 수 있습니다
- 전체 대화 기록 대비 가지치기 결과가 얼마나 줄었는지 확인할 수 있습니다
- 챗봇 비용과 응답 지연을 줄이는 기본 패턴을 이해할 수 있습니다
어떻게 진행해요
1. 실행 환경 확인하기
2. 문장 비교 도구 설치하기
3. 샘플 대화 파일 만들기
4. 관련 대화 고르는 함수 채우기
5. 가지치기 결과 실행하기
6. 보존 정책 조정하기
7. 최종 출력 검증하기
AI 튜터가 각 단계를 하나씩 안내해줄 거예요