SuperAPI AI 工具集

cap-llm-plugin

智能体与模型

查看项目

更新于 10-16 09:47

技能介绍

用途:帮助开发者在 SAP CAP 应用内构建 AI/LLM 功能,包括字段推荐、聊天补全、RAG 检索增强生成与编排。参考资料为 CAP 插件文档与 SAP AI SDK 官网。

主要能力与用法: 一、内置 AI 插件:字段推荐场景推荐使用 npm install @cap-js/ai,带 @Common.ValueList 或 @cds.odata.valuelist 注解的字段可在 Fiori 草稿 UI 中自动获得 AI 推荐,无需自定义 handler。自定义 LLM 集成(RAG、聊天补全、编排)使用 SAP AI SDK:npm install @sap-ai-sdk/langchain @sap-ai-sdk/foundation-models,并在 mta.yaml 绑定 aicore 服务(service: aicore,service-plan: extended)。 二、聊天补全:通过 AzureOpenAiChatClient(modelName 如 gpt-4o)在 CAP ApplicationService 中注册 on 处理器,invoke 传入 system 与 user 消息返回内容。 三、RAG:用 Vector(1536) 等向量字段存文档分块嵌入,使用 AzureOpenAiEmbeddingClient(如 text-embedding-3-small)生成嵌入;检索可用 HANA Cloud 的 COSINE_SIMILARITY 与 TO_REAL_VECTOR 排序取 topK。资料提到 2026 年 4 月起 Vector 类型也支持 H2、SQLite、PostgreSQL 用于本地开发,本地用 SQLite、生产用 HANA 无需改模型。 四、编排:可用 LangChain 的 ChatPromptTemplate 与 StringOutputParser 串联提示、模型与输出解析。 五、流式响应:以 SSE 方式设置 text/event-stream 与 no-cache 头,逐块写入 token,最后发送 [DONE]。 六、令牌预算:按约 1 token≈4 字符估算,超限截断上下文。 七、本地开发:可在 cds.requires.aicore 下用 [development] 配置凭据,并用 .env 保存真实 AI Core 凭据且不提交。

限制与常见错误:不要把原始用户输入未经净化直接发给 LLM(提示注入风险);不要把嵌入存为 JSON 字符串而应使用向量类型;不要每次请求重新嵌入同一文档,应预计算并缓存;不要不限制上下文长度;不要把 LLM 错误原文暴露给终端用户;部署前不要忘记绑定 aicore 服务实例;长时间 LLM 任务不要用同步调用,应使用后台任务或流式。资料未提供具体收费、价格与性能指标。