用途:帮助开发者在 Apple 平台选择、部署并优化端侧机器学习模型,涵盖 Apple Foundation Models、Core ML、MLX Swift 和 llama.cpp 四条技术路线,并提供框架选型决策树。
主要能力:Foundation Models 用于 iOS 26+/macOS 26+ 且启用 Apple Intelligence 设备的文本生成、摘要、实体抽取与结构化输出,支持 @Generable 类型安全模式、@Guide 约束、流式输出、Tool 协议工具调用与自定义适配器;Core ML 用于部署自训练模型(视觉、NLP、音频),通过 coremltools 从 PyTorch/TensorFlow 转换,支持量化、调色板化与剪枝;MLX Swift 面向 Apple Silicon 上开源 LLM(Llama、Mistral、Qwen、Gemma)的高吞吐推理与微调;llama.cpp 用于 GGUF 格式的跨平台推理。
使用方式:Foundation Models 需先检查 SystemLanguageModel.default.availability 与 supportsLocale,创建 LanguageModelSession 并可在交互前调用 prewarm();结构化输出用 @Generable 与 session.respond(generating:);Core ML 转换前须调用 model.eval(),使用 ct.convert 并保存为 .mlpackage;MLX Swift 通过 LLMModelFactory 加载 mlx-community 模型并设置 Memory.cacheLimit。多后端场景建议用 coordinator actor 串行化模型访问。
适用场景:端侧文本生成与摘要、图像分类与检测、自定义 NLP 分类、开源 LLM 本地推理、隐私敏感应用。
限制:Foundation Models 不适用于复杂数学、代码生成与事实准确性任务,且不支持 iOS 26 之前设备;护栏始终启用不可关闭;令牌预算含输入与输出;MLX Swift 在 iOS 上不应超过总内存 60%,模拟器无法验证 Metal 相关推理,需真机测试。具体收费、价格与平台支持细节资料暂未提供。