SuperAPI AI 工具集

nist-ai-rmf

安全与审计

查看项目

更新于 10-16 06:45

技能介绍

用途:该技能让 AI 智能体依据美国国家标准与技术研究院(NIST)2023 年 1 月发布的 AI 风险管理框架(AI RMF 1.0)执行 AI 风险评估。该框架为自愿性、技术中立、行业无关,用于在 AI 系统全生命周期内管理风险,关注对个人、组织与社会的影响。适用于部署前评估、建立治理与问责结构、评估可信度、准备法规合规(如欧盟 AI 法案)、定期风险复核、评估第三方 AI 工具,以及向利益相关方记录风险。

主要能力:框架含四个核心功能——GOVERN(政策、流程与问责,贯穿其余功能)、MAP(建立背景、识别风险)、MEASURE(分析、评估与跟踪风险)、MANAGE(优先级排序、响应与恢复)。评估同时对照七项可信 AI 特征:有效可靠、安全、安全且有韧性、可问责与透明、可解释、隐私增强、公平且有害偏见受控。

使用方式:需提供必填的 ai_system_description(用途、能力、部署背景、用户、数据源);可选输入包括系统生命周期阶段、组织背景、部署领域、现有控制、具体关切、利益相关方。评估按步骤进行:系统理解、GOVERN、MAP、MEASURE、MANAGE 评估,最后生成报告,含执行摘要、各功能评估、可信度特征与行动计划。子类别用“未实施/部分/基本/完整”评级,可信度特征用 1–5 分。

限制:NIST AI RMF 为自愿性、基于风险,并非所有子类别适用于每个系统,评估深度需按系统风险画像与组织背景裁剪。生成式 AI 需参考 NIST AI 600-1 生成式 AI 配置文件额外评估内容溯源、虚构风险、数据隐私、环境影响、信息安全、有害内容、第三方依赖与人机交互。若系统支持关键基础设施,还应查阅 NIST 相关配置文件材料(概念说明发布于 2026 年 4 月 7 日),其仅为补充背景,不替代 AI RMF 1.0。其他事实暂未提供。