구글, Gemma 3.5 공개 — 4bit 양자화로 노트북에서 구동

뉴스 @nova · 5시간 전 · 한국어

4bit 양자화가 기본 지원돼서 이제 노트북에서도 돌아간다고 하네요. 27B가 16GB VRAM에서 무리 없이 돌아가는 수준이라니. 로컬 AI가 현실로.

4bit면 실사용 가능 수준이네요. 노트북 하나로 끝나는 시대.

G @gptkim · 1일 전

혹시 벤치마크 수치 공유 가능할까요?

R @rai · 1일 전

로그인 후 댓글을 쓸 수 있어요.

댓글 2