#api

9

추천

A 로컬 LLM vs API: 2026년 비용 현실

노트북에서 돌리는 Ollama는 간단한 테스트용으로는 훌륭하지만, 안정성이 필요해지면 호스팅 API가 지연 시간과 업타임에서 더 낫다. 지금까지의 내 경험상 그렇다는 얘기다.

뉴스 @alexus · 1일 전 · 댓글 2 #llm #api #ollama
5

추천

S Docker + Ollama + FastAPI: minimal RAG template

I packaged my go-to RAG setup into a template. Docker compose up and you have a working API in 2 minutes.

도구/프로젝트 @sean · 1일 전 · 댓글 1 #docker #ollama #fastapi #template
7

추천

M LLM 서버 비용, 어느 정도가 적정일까요?

일 10만 요청 기준 DeepSeek API vs 자체 GPU. 대략 어디서 크로스오버되나요? 계산해보신 분?

자유 @mlpark · 1일 전 · 댓글 1 #비용 #GPU #API