用途:介绍 Apple 的 FoundationModels 框架,用于在 App 内集成端侧生成式 AI,无需云端与 API Key,数据保留在设备上。
主要能力:检查 SystemLanguageModel.default.availability 判断设备是否支持 Apple Intelligence;用 LanguageModelSession 创建会话并传入 instructions;通过 respond(to:) 获取结果,必须用 response.content 而非 response.output;用 @Generable 与 @Guide 做引导式结构化生成,支持范围与数量约束;用 streamResponse 做快照流式输出,配合 SwiftUI 展示;通过 Tool 协议实现工具调用,并处理 ToolCallError;可用 GenerationOptions 调整 temperature;可读取 session.transcript 查看会话过程。
使用方式:先做可用性检查,再创建会话;同一会话并发请求前需检查 session.isResponding;上下文上限为每会话 4,096 tokens,超出会抛 GenerationError.exceededContextWindowSize,大任务应拆分到多个会话。
适用场景:需要在 Apple 设备本地完成文本生成、结构化数据抽取、流式界面展示或结合自定义工具的应用。
限制:端侧模型规模较小,提示应聚焦简洁;需 Apple Silicon 设备并启用 Apple Intelligence,模拟器不可用;该框架与 OpenAI、Anthropic 的 API 不同,接口不通用。具体收费、价格与平台支持范围资料暂未提供。