用途:在 iOS 应用中加载、配置并运行 Core ML 模型,实现端侧推理。范围仅限 Swift 端集成,Python 侧转换、量化、剪枝属于 apple-on-device-ai。
主要能力:模型加载支持自动生成类型化输入输出类(添加 .mlmodel/.mlpackage)、异步加载 MLModel.load(contentsOf:configuration:)(iOS 15+)以及运行时编译 MLModel.compileModel(at:)(iOS 16+)。配置通过 MLModelConfiguration 的 computeUnits 控制计算调度:.all(CPU+GPU+神经引擎,默认)、.cpuAndNeuralEngine、.cpuAndGPU、.cpuOnly。预测支持类型化 prediction(input:)、动态特征提供者、批量 predictions(fromBatch:) 以及有状态 prediction(from:using:)(iOS 18+)。MLTensor 提供 Swift 原生多维张量运算与惰性求值(iOS 18+)。图像输入可配合 Vision 的 CoreMLRequest 或旧版 VNCoreMLModel。
使用方式:模型加载保持异步以避免阻塞主线程;运行时编译产物需缓存到 Application Support 而非每次启动重编译;预测本身是同步的,应在 actor 或后台任务中调用;共享 MLState 的预测必须串行化,并发流需各自创建独立 MLState。性能与内存方面可用 MLComputePlan(iOS 17.4+)检查算子调度,用 Instruments 的 Core ML 模板剖析延迟与 ANE 卸载,并在内存压力时释放模型实例。
适用场景:需要在 iOS 端侧进行图像分类等推理、追求能效与性能平衡、需要批量吞吐或序列/LLM 有状态推理的场景。
限制:以上为技能文档内容;未提供具体支持的模型格式范围、设备兼容列表、价格或授权信息。