SuperAPI AI 工具集
合作ENAI 行业资讯收藏
Skill 广场sap-ai-core

sap-ai-core

智能体与模型

查看项目

更新于 10-15 16:37

技能介绍

用途

本技能用于指导使用 SAP AI Core 和 SAP AI Launchpad 完成 SAP BTP 上的企业级 AI/ML 工作负载开发。适用于以下场景：开通 SAP AI Core、使用 SAP AI Launchpad、配置生成式 AI Hub 编排、选择模型供应商、构建 RAG 或 grounding 流程、管理提示模板、部署训练/推理工作负载，以及将 AI 能力接入 SAP 应用。

三个组成部分

  • SAP AI Core：AI 工作流与模型服务的执行引擎。
  • SAP AI Launchpad：AI 运行时的管理 UI，包括生成式 AI Hub。
  • AI API：跨运行时的标准化生命周期管理。

主要能力

  • 生成式 AI Hub：通过统一 API 访问多个供应商的 LLM。
  • 编排（Orchestration）：模块化流水线，用于模板化、过滤、grounding、脱敏。
  • ML 训练：基于 Argo Workflows 的批处理训练流水线。
  • 推理服务：将模型部署为 HTTPS 端点用于预测。
  • Grounding/RAG：向量数据库集成，为 AI 提供上下文。

使用方式

前置条件：SAP BTP 企业账号、SAP AI Core 服务实例（GenAI 需 Extended 计划）、带凭据的服务密钥。

  1. 获取认证令牌：使用服务密钥中的 AI_API_URL、AUTH_URL、CLIENT_ID、CLIENT_SECRET，通过 curl 调用 OAuth token 接口获取 access_token。
  2. 创建编排部署：先 GET /v2/lm/deployments 检查是否已有编排部署，必要时通过 POST /v2/lm/deployments 以 configurationId 创建。
  3. 使用统一 API 进行模型推理：向部署 URL 的 /v2/completion 发送 POST 请求，请求体中包含 llm_module_config（model_name、model_version、model_params）与 templating_module_config（模板消息），以及 input_params。

请求需携带 Authorization: Bearer、AI-Resource-Group 和 Content-Type 头。

服务计划

  • Free：免费，不含 GenAI Hub，仅社区支持，仅默认资源组。
  • Standard：按资源+基线计费，不含 GenAI Hub，完整 SLA，支持多个资源组。
  • Extended：按资源+token 计费，含 GenAI Hub，完整 SLA，支持多个资源组。

关键限制：Free 与 Standard 在同一子账户中互斥；Free 可升级到 Standard，不支持降级；每租户最多 50 个资源组。

模型供应商

通过租户专属目录提供模型访问。模型确切名称与版本应视为示例，需在目标租户中通过 GET /v2/lm/scenarios/foundation-models/models 或 SAP AI Launchpad 模型库核验。供应商包括 Azure OpenAI、SAP 开源模型、Google Vertex AI、AWS Bedrock、Mistral AI、IBM、Perplexity。

编排

编排服务通过模块化流水线提供对多模型的统一访问，包含 8 个执行阶段：Grounding → Templating（必需）→ 输入翻译 → 数据脱敏 → 输入过滤 → 模型配置（必需）→ 输出过滤 → 输出翻译。

内容过滤：Azure Content Safety 覆盖 4 类（仇恨、暴力、色情、自残），严重级别 0-6，Azure OpenAI 自动拦截 4 级及以上，另含 PromptShield 与受保护材料检测；Llama Guard 3 覆盖 14 类。

数据脱敏：提供两种 PII 保护方式——匿名化（MASKED_ENTITY，不可逆）与假名化（MASKED_ENTITY_ID，可逆），支持 25 种实体。

Grounding（RAG）：集成来自 SharePoint、S3、SFTP、SAP Build Work Zone、DMS 的外部数据，支持 PDF、HTML、DOCX、图像等；限制为每条流水线 2,000 个文档，每日刷新。

工具调用：通过 5 步工作流让 LLM 执行函数——定义工具→接收 tool_calls→执行函数→返回结果→LLM 整合响应。

结构化输出：使用严格校验强制模型响应符合 JSON schema，适用于结构化数据抽取与 API 响应。

嵌入：通过 /v2/embeddings 端点生成语义嵌入，用于 RAG 与相似度搜索，支持文档、查询、文本输入类型。

ML 训练与部署

训练使用 Argo Workflows。关键要求：创建默认对象存储密钥、定义工作流模板、创建带参数的配置并执行训练。

部署采用两步：创建配置（绑定模型），然后创建带 TTL 的部署。状态包括 Pending → Running → Stopping → Stopped/Dead。

SAP AI Launchpad

基于 Web 的 UI，包含 4 个关键应用：工作区（管理连接与资源组）、ML 操作（训练、部署、监控模型）、生成式 AI Hub（提示实验与编排）、函数浏览器（浏览可用 AI 函数）。所需角色包括 genai_manager、genai_experimenter、prompt_manager、orchestration_executor、mloperations_editor。

提示注册表

提示注册表管理提示模板从设计到运行时的生命周期，并集成到 SAP AI Core 与编排工作流中。两种管理接口：命令式 API（通过 REST 完整 CRUD，用于设计时提示优化）与声明式 API（Git 仓库同步，用于运行时与 CI/CD）。关键端点：POST /v2/lm/promptTemplates（创建）、POST /v2/lm/promptTemplates/{id}/substitution（按 ID 填充）、POST /v2/lm/scenarios/{scenario}/promptTemplates/{name}/versions/{version}/substitution（按名称填充）。

API 参考

核心端点：/v2/lm/scenarios、/v2/lm/configurations、/v2/lm/deployments、/v2/lm/executions、/lm/meta。

常见模式

  • CAP 集成：SAP CAP 是 BTP 上 AI Core 的主要消费框架。通过 MTA 将 AI Core 服务实例绑定到 CAP 应用，再在 CAP 事件处理器中使用 SAP Cloud SDK for AI 调用编排 API。生产环境应始终异步处理 LLM 调用（返回 202 Accepted，通过 cds.spawn 后台处理），以避免 BTP 负载均衡器超时。
  • 简单对话：使用模板模块的基本模型调用。
  • 带 grounding 的 RAG：结合向量搜索与 LLM 实现上下文感知响应。
  • 安全企业对话：过滤 + 脱敏 + grounding 以保护 PII。

故障排查

  • 401 Unauthorized：刷新 OAuth 令牌。
  • 403 Forbidden：检查 IAM 角色，申请配额增加。
  • 404 Not Found：核实 AI-Resource-Group 头。
  • 部署 DEAD：检查部署日志。
  • 训练失败：创建默认对象存储密钥。
  • 通过支持工单申请配额增加（组件：CA-ML-AIC）。

随附资源

参考文档包括 orchestration-modules.md、generative-ai-hub.md、model-providers.md、api-reference.md、grounding-rag.md、ml-operations.md、advanced-features.md、ai-launchpad-guide.md。模板包括 deployment-config.json、orchestration-workflow.json、tool-definition.json。

官方来源：SAP AI Core Guide（https://help.sap.com/docs/sap-ai-core）、SAP AI Launchpad Guide（https://help.sap.com/docs/sap-ai-launchpad）、SAP Note 3437766（模型 token 费率与限制）。

限制

资料未提供具体收费价格、具体模型的可用性保证及性能效果；确切模型名称与版本须在目标租户中核验。