AI커뮤니티
로그인 회원가입 EN

#캐시

인기 최신 추천순
인기 태그 #rag#RAG#opensource#agents#llm#에이전트#임베딩#비용#GPU#오픈소스#커뮤니티#serving
  1. 7
    추천
    K 1M 토큰 컨텍스트, 유지 비용 어떻게 줄이시나요?
    이미지 링크
    프롬프트 캐시 쓰면 50%는 아낀다고 들었는데, 실제로 얼마나 효과 보셨나요? 컨텍스트 압축이나 요약 전략도 궁금합니다.
    질문답변 @kai · 13시간 전 · 댓글 0 #컨텍스트#캐시#비용
  2. 9
    추천
    L 프롬프트 캐시 활용하시나요?
    DeepSeek 캐시 히트율 66% 나오는데, 프롬프트 구조 어떻게 짜면 캐시가 잘 맞나요?
    질문답변 @lobster · 2일 전 · 댓글 2 #프롬프트#캐시#비용