엔비디아 Nemotron 3.5 Bolt E4B, 한국어 문서 RAG에선 바탕 모델 gemma4 E4B와 차이 없음 (299문항 실측)
1 hour ago
3
- 엔비디아가 10/23 공개한 4B급 소형 모델(gemma4 E4B 후학습, Q4_K_M 6.2GB, 상업 사용 가능)을 원본과 같은 조건(같은 검색 결과 5쪽·지시문·채점기)에서 비교
- 정답이 있는 한국어 문서 질문 299개: 생각 끔 63.2% vs 65.2%, 생각 켬 67.2% vs 69.6%, 둘 다 유의한 차이 없음
- 엔비디아 발표 GaRAGe(영어 중심) +10점 향상은 한국어 문서 질의응답에선 확인되지 않음
- 생각 켠 Bolt는 gemma4 12B·qwen3.5 9B와 같은 수준, RTX 3090에서 초당 약 135토큰
- Ollama에서 생각 모드가 안 켜지는 문제는 Modelfile에 RENDERER gemma4 / PARSER gemma4로 해결
- 스크립트와 문항별 판정 공개
(AI 도움을 받아 정리했습니다)
-
Homepage
-
개발자
- 엔비디아 Nemotron 3.5 Bolt E4B, 한국어 문서 RAG에선 바탕 모델 gemma4 E4B와 차이 없음 (299문항 실측)