用途
SAP Cloud SDK for AI 是 SAP AI Core、SAP Generative AI Hub 与 Orchestration Service 的官方 SDK,用于把 AI/LLM 能力集成进 JavaScript/TypeScript 与 Java 应用。适用于以下场景:向 SAP BTP 应用添加 AI/LLM 能力;构建聊天补全或嵌入(embedding)功能;通过 SAP AI Core 使用租户已批准的 OpenAI、Claude、Gemini、Amazon、Mistral 等模型家族;实现内容过滤、数据脱敏或文档接地;使用 LangChain 或 Spring AI 创建智能体工作流;通过 Prompt Registry 管理提示词;在 SAP AI Core 上部署 AI 模型。
主要能力
- 聊天补全与流式输出:OrchestrationClient 提供 chatCompletion 与 stream 方法,支持逐块输出内容。
- 函数/工具调用:可传入 tools 定义,并通过 getToolCalls 获取调用结果。
- 内容过滤:提供 buildAzureContentSafetyFilter 等过滤器构建方法,可分别设置输入与输出过滤。
- 数据脱敏:支持 sap_data_privacy_integration 脱敏提供方,可对 profile-email、profile-person 等实体做匿名化。
- 文档接地:支持 vector 等数据仓库类型,通过 grounding_input/grounding_output 注入上下文。
- 响应辅助方法:getContent、getTokenUsage、getFinishReason、getToolCalls、getDeltaToolCalls、getAllMessages、getAssistantMessage、getRefusal 等。
- 包与构件:JavaScript 侧包含 @sap-ai-sdk/orchestration、foundation-models、langchain、ai-api、document-grounding、prompt-registry;Java 侧包含 orchestration、openai(foundationmodels)、core、document-grounding、prompt-registry。
- 集成:与 CAP 事件处理器原生集成,并支持 LangChain.js 与 Spring AI。
使用方式
前置条件:Node.js 20+(JavaScript)或 Java 17+(Java,推荐 21 LTS);SAP AI Core 服务实例(extended 或 sap-internal 计划);AI Core 中的 Orchestration 部署(默认资源组已包含)。
安装(JavaScript/TypeScript):
npm install @sap-ai-sdk/orchestration@^2
Java 依赖:
<dependency> <groupId>com.sap.ai.sdk</groupId> <artifactId>orchestration</artifactId> <version>${ai-sdk.version}</version> </dependency>
连接设置:在 BTP 运行时(Cloud Foundry/Kyma)将 AI Core 服务实例绑定到应用,SDK 会通过 VCAP_SERVICES 或挂载的密钥自动检测;本地开发可设置环境变量 AICORE_SERVICE_KEY,或使用 CAP hybrid 模式(cds bind)。
CAP 集成:在 CAP 服务类中使用 OrchestrationClient,并在 MTA 中声明 aicore 服务绑定。生产环境 LLM 调用建议使用异步处理:LLM 响应可能耗时 30-60 秒,超过 BTP 负载均衡超时,应返回 202 Accepted 并在后台处理。
适用场景
需要将大模型能力嵌入 SAP BTP 应用、构建聊天或嵌入功能、实现内容安全与隐私脱敏、做检索增强(文档接地)、管理提示词模板,或使用 LangChain/Spring AI 构建智能体工作流的开发场景。
限制与注意事项
- 版本:JavaScript v2.11.0+、Java v1.19.0+(基于 2026-06-15 公共包注册表证据);从 v1.x 迁移需参考 V1 到 V2 迁移指南。
- 模型 ID 与版本因租户而异,复制示例前应通过 SAP AI Launchpad Model Library 或 AI Core 模型列表 API 查询目标目录。
- 部分模型已弃用,需使用替代模型(如 text-embedding-ada-002 改用 text-embedding-3-small/large;gpt-35-turbo 改用 gpt-4o-mini;gpt-4-32k 改用 gpt-4o;gpt-4 改用 gpt-4o 或 gpt-4.1;gemini-1.0-pro 改用 gemini-2.0-flash;gemini-1.5-pro/flash 改用 gemini-2.5-flash;mistralai--mixtral-8x7b 改用 mistralai--mistral-small-instruct)。
- 版本证据仅为包注册表证据,并非 AI Core 实时运行时证据;AI Core 租户执行与确切模型可用性仍需在目标租户中验证。
- 生成的模型类(位于 ...model 包)可能在次要版本中变化,但可安全使用。
- 常见错误:缺少 AI Core 绑定(需绑定服务或设置 AICORE_SERVICE_KEY);资源组中无 Orchestration 部署;内容过滤违规;超出 token 限制(需设置 max_tokens)。
相关技能
sap-cap-capire(构建消费 AI 服务的 CAP 应用)、sap-ai-core(AI Core 平台设置与模型部署)、sap-dependency-security(npm 包升级与依赖安全)。