用途:依据欧盟条例(EU) 2024/1689(KI-VO)第50条,为特定AI系统归类适用的透明度与标识义务,并设计标识方式、评估罚款风险。第50条自2026年8月2日起适用,且未随高风险义务的延后而推迟。
输入:系统功能(与人交互、内容生成、情绪识别)、委托方角色(提供者/运营者)、所生成内容的类型(图像、音频、视频、文本;合成或深度伪造)、使用场景(客户对话、编辑内容、艺术/讽刺)、现有标识或提示。
主要能力(分四个方面):
- 第50条第1款:与自然人直接交互的AI系统须使人知晓其在与AI交互,除非依情形显而易见。
- 第50条第2款:生成或操纵合成图像、音频、视频、文本的系统,须以机器可读格式标记输出,使其可被识别为人工生成或操纵(如水印、元数据)。
- 第50条第3款:情绪识别或生物特征分类系统的运营者须告知受影响者,并与GDPR义务衔接。
- 第50条第4款:运营者生成或操纵深度伪造须披露;纯艺术、创作或讽刺作品适用减弱披露,且不得损害呈现;就涉及公共利益事项向公众提供信息的AI生成或编辑文本也须披露。
形式与时间:信息须清晰可辨、最迟在首次交互或展示时提供、无障碍;标识须有效、可互操作、稳健并在技术上尽可能可行。
限制与风险:遗漏机器可读标记、未披露深度伪造、聊天机器人无提示均属违规;不得将高风险义务的延后误读为第50条的整体推迟;第50条不依赖高风险定级;水印、C2PA/元数据流水线等实施需提前准备。违规最高可处1500万欧元或全球年营业额3%的罚款(第99条)。德国市场监督机构为联邦网络局(KI-MIG),该法截至2026年7月21日尚未在联邦法律公报公布,不得引用其公报出处。输出为结构化审查报告,并给出建议与下一步。