H3-metal - Apple Silicon용 네이티브 MiniMax-H3 추론

h3-metal은 Apple Silicon에서 MiniMax-H3의 프롬프트·이미지·영상·오디오 기반 생성 기능을 네이티브로 실행하며, 현재 M3 Max와 M5 Max의 Metal 성능 및 메모리 최적화에 집중함 대화형 세션은 BF16 프롬프트 조건, DiT, 영상 디코더를 메모리에 유지하며 첫/마지막 프레임 조건과 순서가 보존되는 Ref2VA 참조를 지원함 속도와 품질은 디노이징 횟수, DiT 블록 수, 전체 디노이저 또는 코어 재사용, 토큰 축소, 내부 렌더링 해상도를 독립적으로 조절해 선택함 M5 Max의 512×512·22프레임 테스트에서 4회 디노이징은 약 3.5초가 걸렸고, 토큰 축소는 검증된 45 layers + reuse 2 구성을 16.69초에서 12.60초로 줄였으나 구도나 세부 표현이 달라질 수 있음 M5에서는 int8 MLP·QKV·attention 출력과 TensorOps 경로를 사용하고, 모델 단계를 나눠 적재해 33B Transformer, Qwen 인코더, 디코더가 통합 메모리에 동시에 존재하지 않도록 함 프로젝트 범위와 실행 방식 h3-metal은 MiniMax-H3 추론을 작동하는 수직 슬라이스 단위로 구축함 결정론적 호스트·모델 메타데이터에서 시작해 Metal 블록 동등성, 프롬프트 인코딩, 영상·오디오 생성, 첫/마지막 프레임 조건, 순서 있는 참조 순으로 확장함 프롬프트-영상·오디오, FL2VA 조건, Ref2VA 이미지·영상·오디오 참조가 종단 간 작동함 ./h3 --info -d ./MiniMax-H3는 전체 가중치를 매핑하거나 미디어를 생성하지 않고 모델 배치와 선택된 Metal 장치를 검사함 프롬프트 옵션 -p를 생략하면 Iris 스타일 대화형 세션이 시작됨 BF16 프롬프트 조건, 준비된 DiT, 영상 디코더를 유지하므로 seed만 바꾼 반복 생성에서 재적재와 재인코딩을 피함 !status, !seed random, !seconds, !show, !save, !cache 등을 제공함 !first와 !last 조건은 세션에 지속되며 clear로 제거할 수 있음 일반 참조 이미지는 !ref-image로 추가되고 <Picture 1>, <Picture 2> 순서로 모델에 전달됨 파일명 자체에는 모델이 해석하는 의미가 없음 Ref2VA 참조는 첫/마지막 프레임 앵커와 함께 사용할 수 없음 속도와 품질 제어 기본값은 --steps 20 --layers ...