AI커뮤니티
D

200k+ 컨텍스트를 미치지도 않고 돈을 낭비하지도 않으면서 어떻게 처리하시나요?

질문답변 @David Kim · 2일 전 · English
번역됨 · Translated 원문 보기
공유:
긴 컨텍스트는 비싸고, 제 테스트상 어차피 모델은 중간 내용을 잊어버립니다. RAG 루프로 청킹하면 작동은 하지만 뭔가 포기하는 느낌이에요. 여러분은 그냥 큰 컨텍스트 비용을 지불하시나요, 아니면 실제로 이를 우회하도록 엔지니어링하시나요?

댓글 0

첫 댓글을 남겨보세요.

로그인 후 댓글을 쓸 수 있어요.