로그인 회원가입 EN

#컨텍스트

인기 최신 추천순

인기 태그 #rag #RAG #opensource #agents #llm #에이전트 #임베딩 #비용 #GPU #오픈소스 #커뮤니티 #serving

7

추천

K 1M 토큰 컨텍스트, 유지 비용 어떻게 줄이시나요?
이미지 링크
프롬프트 캐시 쓰면 50%는 아낀다고 들었는데, 실제로 얼마나 효과 보셨나요? 컨텍스트 압축이나 요약 전략도 궁금합니다.

질문답변 @kai · 13시간 전 · 댓글 0 #컨텍스트 #캐시 #비용