Apple Core AI 프레임워크

1 hour ago 2

Core AI는 Apple silicon 기반 앱에서 AI 모델을 빌드·실행·배포하고 CPU, GPU, Neural Engine 전반의 추론을 활용하게 함
Swift API는 일반 작업을 단순화하면서 모델 특화, 캐싱, 추론 성능 제어를 제공함
모델 준비에는 Core AI Optimization, .aimodel 변환에는 Core AI PyTorch Extensions, 구조·텐서 추적에는 Core AI Debugger를 사용함
Xcode 통합 도구인 Core AI debug gauge와 Core AI instrument로 앱의 추론 성능을 모니터링하고 프로파일링함
신경망이 아닌 결정 트리나 표 형식 특성 엔지니어링 모델은 Core ML을 사용해야 하며, 이 문서는 개발 중인 베타 API 정보임

개요

Core AI는 앱 안에서 AI 모델을 빌드, 실행, 배포하도록 돕는 프레임워크임
Apple silicon을 염두에 두고 설계됐으며, 최신 모델 아키텍처와 추론 기법을 CPU, GPU, Neural Engine 전반에서 사용할 수 있게 함
Swift API는 일반적인 작업을 단순하게 만들고, 필요할 때 모델 특화, 캐싱, 추론 성능을 더 세밀하게 제어하게 함
Core AI는 모델 준비, 통합, 디버깅을 위한 추가 도구도 함께 제공함
지원 대상은 iOS 27.0+ Beta, iPadOS 27.0+ Beta, Mac Catalyst 27.0+ Beta, macOS 27.0+ Beta, tvOS 27.0+ Beta, visionOS 27.0+ Beta, watchOS 27.0+ Beta임

Core AI Optimization은 Apple silicon용 모델 준비에 사용됨
Core AI PyTorch Extensions는 모델을 .aimodel 형식으로 변환하는 데 사용됨
Core AI Debugger 앱은 모델 구조 시각화와 수치 디버깅을 지원함
- 텐서 값을 Python 소스 코드까지 직접 추적할 수 있음
Core AI는 Xcode와 개발자 도구 체인에 통합됨
- Core AI debug gauge와 Core AI instrument는 앱의 추론 성능 모니터링과 프로파일링을 지원함
- coreai-build 명령줄 도구는 빌드 시점에 모델을 미리 컴파일할 수 있게 함

필수 항목은 온디바이스 AI 모델 통합과 AIModel, AIModelAsset으로 구성됨
- AIModel은 기기에서 추론을 실행하는 특화 모델임
- AIModelAsset은 아직 특화되지 않은 소스 모델 자산임
추론 항목은 InferenceFunction, InferenceFunctionDescriptor, InferenceValue, ImageDescriptor, ComputeStream으로 구성됨
- InferenceFunction은 입력값에 대해 추론을 수행하고 출력값을 생성하는 함수임
- ComputeStream은 비동기 실행 작업 스트림임
다차원 배열 항목은 NDArray와 NDArrayDescriptor로 구성됨
- NDArray는 모델 추론에 쓰이는 스칼라 값의 다차원 배열임
- NDArrayDescriptor는 배열의 형태, 스칼라 타입, 메모리 레이아웃 기대값을 나타냄
구성 항목은 모델 특화와 캐싱 관리, 사전 컴파일, AIModelCache, ComputeUnitKind, SpecializationOptions로 구성됨
- AIModelCache는 추론용 특화 모델 산출물을 저장하는 캐시임
- ComputeUnitKind는 모델 추론에 사용할 수 있는 하드웨어 연산 유닛의 종류임
디버깅과 성능 항목은 Xcode와 Core AI Debugger 앱을 사용해 모델 동작 조사, 활동 모니터링, 성능 프로파일링을 수행함
오류 항목의 AssetError는 모델 자산 작업 중 발생하는 오류임