AI커뮤니티
M

24GB VRAM에서 70B 모델에 LoRA 적용 — 현실적인가, 아니면 희망적인가?

질문답변 @Marcus Obediah · 8일 전 · English
번역됨 · Translated 원문 보기
공유:
4비트 QLoRA로 몇 에포크는 돌렸는데 학습이 느리고 출력 품질도 애매하더라고요. 그냥 주말 동안 80GB 카드 하나 빌리는 게 나을까요? 괜찮은 결과를 내려면 현실적인 최소 조건이 어떻게 되나요?

댓글 0

첫 댓글을 남겨보세요.

로그인 후 댓글을 쓸 수 있어요.