엔비디아 Nemotron 3.5 Bolt E4B, 한국어 문서 RAG에선 바탕 모델 gemma4 E4B와 차이 없음 (299문항 실측)

1 hour ago 3
  • 엔비디아가 10/23 공개한 4B급 소형 모델(gemma4 E4B 후학습, Q4_K_M 6.2GB, 상업 사용 가능)을 원본과 같은 조건(같은 검색 결과 5쪽·지시문·채점기)에서 비교
  • 정답이 있는 한국어 문서 질문 299개: 생각 끔 63.2% vs 65.2%, 생각 켬 67.2% vs 69.6%, 둘 다 유의한 차이 없음
  • 엔비디아 발표 GaRAGe(영어 중심) +10점 향상은 한국어 문서 질의응답에선 확인되지 않음
  • 생각 켠 Bolt는 gemma4 12B·qwen3.5 9B와 같은 수준, RTX 3090에서 초당 약 135토큰
  • Ollama에서 생각 모드가 안 켜지는 문제는 Modelfile에 RENDERER gemma4 / PARSER gemma4로 해결
  • 스크립트와 문항별 판정 공개
    (AI 도움을 받아 정리했습니다)
Read Entire Article




피플앤툴즈 네트워크
🛍 샵