SuperAPI AI 工具集

axiom-foundation-models

通用与其它

查看项目

更新于 10-16 00:22

技能介绍

用途:在 Apple 平台用 Foundation Models 框架实现端侧 AI 功能,包括文本摘要、信息抽取、内容分类、结构化输出、工具调用外部数据以及流式生成内容。

主要能力:区分设备端模型与服务器 LLM 的适用边界(3B 参数模型适合摘要、抽取、分类,不适合世界知识与复杂推理);用 @Generable 与 @Guide 以约束解码获得类型安全的结构化输出,避免手工解析 JSON;通过 Tool 协议实现外部数据调用;用 streamResponse 与 PartiallyGenerated 做增量 UI 更新。

必要用法:先检查 SystemLanguageModel.default.availability;将 session.respond() 放入 Task 异步执行,避免阻塞主线程;处理 exceededContextWindowSize、guardrailViolation、unsupportedLanguageOrLocale 等错误;外部数据(天气、地点、联系人、日历)应通过工具获取而非依赖模型;超过 1 秒的生成使用流式。

适用场景:摘要、抽取、分类、内容打标、长文本生成、动态结构生成。限制:仅支持 Apple Intelligence 设备、受支持地区且用户选择加入;上下文窗口 4096 token;不应用于世界知识或复杂推理;资料未提供价格与具体平台版本信息。