Magistral — Mistral AI의 첫 번째 추론 모델 발표

3 days ago 2

Magistral은 Mistral AI가 공개한 도메인 특화, 투명성, 다국어 추론에 특화된 첫번째 추론(reasoning) 모델
오픈소스인 Magistral Small(24B 파라미터) 와 기업용 엔터프라이즈 버전인 Magistral Medium 두 가지로 출시
사고사슬(Chain of Thought) 기반의 다국어 추론, 단계별 논리 과정을 사용자의 언어로 투명하게 제공함
AIME2024에서 Magistral Medium 73.6% (최고 90%), Small 70.7%(최고 83.3%)의 성능을 보임
법률, 금융, 헬스케어 등 규제 산업, 데이터 엔지니어링, 소프트웨어 개발, 크리에이티브 콘텐츠 등 다양한 언어와 산업군에 맞는 정확한 단계별 논리 전개 및 10배 빠른 응답 속도 지원

Magistral은 실제 문제 해결 능력과 피드백 기반 개선에 초점을 맞춘 reasoning 모델임
Magistral Small은 24B 파라미터 오픈 소스 버전, Magistral Medium은 더 강력한 엔터프라이즈 버전으로 이중 출시됨
성능 지표:
- Magistral Medium: AIME2024 73.6%, 다수결 기준 90% 달성
- Magistral Small: 각각 70.7%, 83.3%
글로벌 언어 및 문자 기반 Chain of Thought 논증 적용, 모국어 수준의 사고 전개 가능
구조적 계산, 프로그래밍 로직, 의사 결정 트리, 규칙 기반 시스템 등 다양한 업무에 적합
Le Chat의 Think mode 및 Flash Answers 기능으로 응답 속도를 경쟁사 대비 10배 향상
공식 논문에 알고리듬, 학습 인프라, 강화학습 기법, 훈련 인사이트 전반에 대한 평가 수록

모델 및 기술 세부 사항

투명한 추론 과정:
- Magistral은 다단계 논리에 최적화되어 사용자가 추론 과정을 자신의 언어로 확인·추적 가능함
- 일반적 모델과 달리 해석 가능성 및 검증 기능 강화
- 지속적인 모델 업데이트 및 빠른 개선 목표
다국어 추론: 영어, 프랑스어, 스페인어, 독일어, 이탈리아어, 아랍어, 러시아어, 중국어 등에서 높은 정확도와 논리 유지
응답 속도:
- Magistral Medium은 Le Chat의 Flash Answers 기능을 통해 경쟁사 대비 10배 높은 토큰 처리속도로 실시간 추론 및 피드백 지원
- ChatGPT 등 주요 경쟁 모델 대비 속도 측면에서 탁월함을 시연

Magistral은 법률, 금융, 소프트웨어 개발, 스토리텔링 등 정밀한 단계별 추론 및 투명성이 중요한 영역에 최적화됨
비즈니스 전략 및 운영
- 전략 기획, 위험 평가, 데이터 기반 의사결정, 복합적 제약조건 하의 최적해 계산 등 수행 가능
규제 산업 및 공공 부문
- 법률, 금융, 헬스케어, 정부 전문가들이 논리적 추론 경로 추적 및 감사성 확보 가능
- 결과의 감사성 및 규정 준수 충족 지원
시스템, 소프트웨어, 데이터 엔지니어링 분야
- 비추론 LLM 대비 프로그래밍, 프로젝트 설계, 백엔드 아키텍처, 데이터 엔지니어링 지원 품질 개선
- 외부 도구, API 연계 등 복수 단계 작업에 효과적임
콘텐츠 생성 및 커뮤니케이션
- Magistral은 창의적 글쓰기, 스토리텔링에도 뛰어난 결과를 보임
- 일관된 텍스트뿐 아니라 독특하고 기발한 아이디어 생성도 가능함