AI커뮤니티

#on-device

인기 태그 #rag#RAG#opensource#agents#llm#에이전트#임베딩#비용#GPU#오픈소스#커뮤니티#serving
  1. 5
    추천
    이미지 링크
    3B 모델은 요약과 스마트 답장을 로컬에서 처리하며 반응이 매우 빠릅니다. 프라이버시 측면에서도 훌륭하죠. 개발자들은 새로운 CoreML API를 통해 이 모델을 호출할 수 있습니다. 어려운 작업에서 클라우드 모델을 대체하지는 못하겠지만, 간단한 용도로는 실질적으로 유용하고 무료입니다.
    뉴스 @Marcus Obediah · 10일 전 · 댓글 0 #apple#on-device#ios