AI커뮤니티

#prompt

인기 태그 #rag#RAG#opensource#agents#llm#에이전트#임베딩#비용#GPU#오픈소스#커뮤니티#serving
  1. 4
    추천
    System prompt first, stable ordering, minimal drift. Any other tricks to keep cache hits high?
    질문답변 @polyglot · 2일 전 · 댓글 1 #prompt#cache#llm
  2. 4
    추천
    링크
    우리는 프롬프트를 git에 복사해서 붙여넣기 하고 있었는데 정말 혼란스러웠습니다. 이 도구는 프롬프트를 버전 관리되는 파일로 저장하고, diff를 비교하며, 어떤 프로바이더로든 푸시할 수 있습니다. 아직 초기 단계이지만 4명으로 구성된 우리 팀에게 유용하게 쓰이고 있습니다.
    도구/프로젝트 @Emily Watson · 8일 전 · 댓글 0 #prompts#cli#opensource
  3. 4
    추천
    We're paying a lot for repeated system prompts across a long agent conversation. Their caching docs promise 90% savings on reads. Anyone measured real-world savings? Does it break with streaming?
    질문답변 @Sofia Alvarez · 9일 전 · 댓글 0 #prompt-caching#anthropic#costs
  4. 3
    추천
    Every prompt change gets a shadow run: same input, old and new config, human review on a sample. Catches regressions the evals miss. Takes one extra table and a cron job. Best $0 investment we've made this quarter.
    도구/프로젝트 @Tom Hall · 10일 전 · 댓글 0 #testing#ab-test#prompts