SuperAPI AI 工具集

azure-ai-contentsafety-java

编程与开发

查看项目

更新于 10-16 01:14

技能介绍

用途:使用 Azure AI Content Safety SDK for Java 构建内容审核应用,对文本和图片进行有害内容分析,并管理自定义屏蔽词列表。

主要能力:支持有害类别识别,包括 Hate(基于身份群体的歧视性语言)、Sexual(性内容)、Violence(身体伤害、武器、伤害)、Self-harm(自伤、自杀相关内容)。文本严重度采用 0-7 量表(默认输出 0、2、4、6),图片严重度采用 0、2、4、6 的裁剪量表。可分析文本、带选项分析文本、结合屏蔽词列表分析文本、分析图片(文件或 URL),并支持屏蔽词列表的创建、更新、添加条目、列出、获取、删除条目与删除列表。

使用方式:通过 Maven 依赖 com.azure:azure-ai-contentsafety:1.1.0-beta.1 引入。客户端可用 API Key(KeyCredential)或 DefaultAzureCredential 创建,需配置环境变量 CONTENT_SAFETY_ENDPOINT 与 CONTENT_SAFETY_KEY。核心调用包括 contentSafetyClient.analyzeText、analyzeImage,以及 blocklistClient 的 createOrUpdateTextBlocklistWithResponse、addOrUpdateBlocklistItems、listTextBlocklists、getTextBlocklist、listTextBlocklistItems、removeBlocklistItems、deleteTextBlocklist。错误处理可捕获 HttpResponseException,常见错误码有 InvalidRequestBody、ResourceNotFound、TooManyRequests。

适用场景:需要对用户生成文本或图片进行审核、过滤仇恨言论或有害内容、维护自定义屏蔽词的应用。

限制:屏蔽词列表变更约需 5 分钟生效;建议仅请求所需类别以降低延迟;严格审核通常屏蔽严重度 >= 4;批量处理可并行以提升吞吐;可适当缓存屏蔽词结果。该技能仅适用于与上述范围明确匹配的任务,输出不能替代针对具体环境的验证、测试或专家评审;若缺少必要输入、权限、安全边界或成功标准,应停止并请求澄清。