Laya (OS Jev), Mac M4에서 CoreML로 오프라인 실행, 초당 45회 의사결정

2 weeks ago 4
  • Laya를 Mac M4에서 CoreML로 오프라인 실행하기 위한 laya.sh 명령 모음으로, 모델 다운로드와 Snake 데모 실행 절차를 담고 있음
  • uv로 test-laya 작업 디렉터리에 프로젝트를 초기화함
  • laya-coreml[demo] 패키지를 추가해 데모 실행에 필요한 의존성을 준비함
  • hf download 로 aac6fef/laya-multilingual-coreml-ane 모델을 내려받아 models/snake에 저장함
  • laya-coreml-snake 실행 시 --model models/snake를 전달해 내려받은 로컬 모델을 사용함

로컬 실행 절차

  • laya-coreml을 시험하는 셸 명령 6개로 구성되어 있음
  • 프로젝트 생성과 의존성 추가는 다음 순서로 수행함 mkdir test-laya cd test-laya uv init uv add 'laya-coreml[demo]'
  • 모델 다운로드와 데모 실행은 동일한 로컬 경로 models/snake를 사용함 hf download aac6fef/laya-multilingual-coreml-ane --local-dir models/snake uv run laya-coreml-snake --model models/snake

실행 환경과 성능 정보 범위

  • Gist 제목에 명시된 실행 환경은 Mac M4와 CoreML이며, 오프라인으로 실행함
  • Hacker News 제목에는 초당 45회 의사결정이 기재되어 있으나, 스크립트 본문에는 성능 측정 코드나 측정 조건이 없음
Read Entire Article