SuperAPI AI 工具集

ai-governance

智能体与模型

查看项目

更新于 10-15 22:11

技能介绍

用途:为 Riksdagsmonitor 平台的 AI 使用提供治理指南,涵盖 GitHub Copilot 智能体安全、EU AI Act 合规与负责任 AI 实践,确保 AI 辅助开发符合 Hack23 ISMS 政策与监管要求。

适用场景:配置或更新 Copilot 智能体工作流;集成 AI/ML 模型做政治数据分析;合并前审查 AI 生成代码;评估 EU AI Act 风险分级;为数据分析做提示工程;审计智能体输出的偏见与准确性。不适用于无 AI 参与的常规代码审查、无 AI 组件的人工数据分析、与 AI 服务无关的基础设施变更。

主要能力:按 EU AI Act 对 CIA 平台 AI 用途分级——政治数据分析为有限风险(第 52 条,需透明度义务)、Copilot 代码生成为最小风险、政治风险评分为高风险(附件 III 第 8 类,需合格评定与人工监督)、选民行为预测为高风险(需透明度、公平性、问责)。提供合规清单:记录 AI 系统目的、分级风险、高风险输出人工监督、保留审计轨迹、偏见与公平评估、AI 生成内容透明度提示、训练数据治理。

OWASP LLM 要点:LLM01 提示注入(校验智能体输出、禁止修改安全配置、限制文件访问、用 CodeQL 扫描);LLM02 不安全输出处理(对 AI 生成代码运行 CodeQL、按 OWASP 清单审查、不信任 AI 生成的 SQL 或安全逻辑);LLM06 敏感信息泄露(不向提示传入敏感数据);LLM09 过度依赖(分析须含置信度、人工复核、与官方数据交叉验证、UI 标注 AI 内容)。

Copilot 智能体安全:权限默认只读,contents: read、pull-requests: write、issues: write、actions: read,禁止 admin、security_events write 与 secrets 访问。输出验证流程为语法校验、安全扫描、测试执行、代码审查、合并批准。

负责任 AI:对全部 8 个瑞典政党平等测试算法、验证少数观点数据代表性、审计情感分析政治中立性、记录模型局限与已知偏见;UI 标注 AI 内容、提供方法论文档、开放原始数据、维护模型更新日志。

ISMS 对齐:ISO 27001 A.5.1、A.8.1,NIST CSF GV.OC,CIS Control 16,GDPR 第 22 条。

限制:资料未提供具体安装命令、价格、平台支持范围或量化效果,暂未提供。