科技

欧盟AI标签已经生效:可见提示与机器标记不能混为一谈

|作者: QUASA 编辑团队|2 分钟阅读| 3
欧盟AI标签已经生效:可见提示与机器标记不能混为一谈

欧盟《人工智能法案》第50条的透明度义务已于2026年8月2日开始适用,但答案不是“所有AI内容都贴同一种标签”。提供者负责把AI交互告知和机器可读标记做进相应系统;专业部署者使用系统发布深度伪造或特定公共利益文本时,则负责向受众作出清晰披露。欧盟委员会的实施公告 确认了这一适用日期及三类要求。

自2026年8月2日起,面向普通人的可见或可听提示,与供技术系统识别的机器标记必须分别处理。前者要让用户在首次互动或接触时直接知情,后者要让生成或操纵的内容可被机器检测;深度伪造发布者不能只依赖文件内的机器标记。仅对该日期前已投放市场的系统,第50条第2款标记义务设有截至2026年12月2日的有限宽限,其他透明度义务没有因此整体延期。

责任矩阵:先判断角色,再判断内容

第50条的法定角色是提供者部署者。“内容发布者”不是自动独立于两者之外的第三种身份:关键在于主体是否以自己的名称提供系统,或者是否在专业活动中以自身权限使用系统。

  • 提供者:开发或委托开发AI系统,并以自己的名称或商标将其投放市场或投入使用。其第50条核心任务是设计交互告知机制,以及为合成音频、图像、视频或文本输出提供机器可读标记。
  • 部署者:以自身权限专业使用AI系统的企业、机构或职业经营者。其任务包括告知受影响者情绪识别或生物特征分类系统正在运行,以及披露深度伪造和符合条件的公共利益文本。
  • 平台或内容团队:平台仅承载第三方内容,并不足以单独证明它是相关AI系统的部署者;平台若自行调用系统生成、操纵和发布内容,则应按实际控制关系评估。员工在法人指示和控制下操作系统时,通常不构成另一个独立部署者。

第50条法条文本 将责任分开规定:第1、2款针对提供者,第3、4款针对部署者;第5款要求相关信息最迟在首次互动或首次接触时,以清晰、可区分且符合无障碍要求的方式提供。

提供者的两项义务不是同一种“标签”

产品团队分别验证聊天机器人首次互动告知和生成文件的机器可读标记

面向自然人直接互动的AI系统,应被设计成让相关人员知道自己正在与AI互动。聊天机器人、AI代理或虚拟化身开始首次互动时,原则上就要完成告知;只有从合理知情、谨慎且具有观察力的普通人角度看,AI身份在具体情境中已经显而易见,才可能适用例外。仅在后台运行、进行机器间通信或不直接接触自然人的系统,不属于这项义务的典型范围。

机器标记是另一项技术责任。生成合成音频、图像、视频或文本的AI系统,包括通用AI系统,其提供者应使输出以机器可读格式获得标记,并可被检测为人工生成或操纵。技术方案应在技术可行范围内有效、可互操作、稳健和可靠,同时考虑内容类型的限制、实施成本和公认技术水平。

因此,第50条第2款并不等于在每个画面上放置肉眼可见的“AI”字样。机器标记可以存在于人无法直接感知的技术层;普通用户是否能看见提示,是另一项验收问题。系统若只辅助标准编辑,或者没有实质改变部署者提供的输入数据及其语义,可能不适用这项标记义务,但应根据具体功能判断,不能只依据产品名称。

深度伪造需要受众可直接感知的披露

专业发布团队分别检查深度伪造的受众可见披露与技术来源标记

深度伪造不是所有AI图片、音频或视频的统称。它要求内容由AI生成或操纵,类似现实存在、可能存在或曾可能存在的人、物体、地点、实体或事件,并可能使人误以为内容真实。专业部署者发布这类内容时,最迟应在受众首次接触时披露其经过人工生成或操纵。

这项披露必须让自然人无需专门工具或额外操作即可理解,例如使用可见标签或可听说明。欧盟委员会的 第50条实施问答 明确指出,文件中嵌入的机器可读标记不能替代深度伪造披露;同一页面还说明了专业部署者的边界、公共利益文本例外及有限宽限期。

明显属于艺术、创意、讽刺、虚构或类似作品的深度伪造也不是完全免除披露。规则允许以不妨碍作品展示或欣赏的适当方式说明其中存在生成或操纵内容。纯个人、非职业使用通常不属于部署者活动;持续获得经济利益,或从事商业、职业及自由职业活动的创作者,则可能成为部署者。

公共利益文本的编辑例外有两道门槛

部署者使用AI生成或操纵文本,并以向公众提供公共利益事项信息为目的发布时,应披露文本经过人工生成或操纵。适用范围可涉及政治和民主程序、公共管理、司法与执法、基本权利、公共安全、公共卫生、环境保护、消费者安全,以及可能成为公共讨论对象的经济、金融、科学或文化发展。

并非所有AI辅助文本都必须显示这一标签。文本经过实质性人工审查或编辑控制,并且自然人或法人对其出版承担最终编辑责任时,可以适用例外。人工审查应由具备相关知识和专业判断的人检查内容实质;编辑控制则要求责任主体有权依据事实核查、来源可信度等实质理由批准、修改或拒绝稿件。

拼写检查、语法修正、格式审批或程序性打勾不构成实质审查。企业若主张适用例外,应能说明谁检查了内容、谁有权改变或拒绝发布,以及谁承担最终编辑责任,而不是只保存一条“已人工审核”的状态记录。

上线验收应分成三层,并保留责任证据

同一服务可能同时触发多项义务。例如,一个面向欧盟用户的平台既提供聊天机器人,又允许商家生成拟真人物视频:平台需要评估首次互动时的AI告知、生成文件的机器可读标记,以及商家作为专业部署者发布深度伪造时的受众披露。一个笼统的“AI生成”徽章不能自动证明三项义务都已满足。

  • 交互层:验证首次对话是否清楚告知AI身份,并覆盖移动端、语音入口、嵌入页面和无障碍场景。
  • 文件层:验证生成、下载、转码和再次上传后,机器标记能否继续被检测;记录适用格式、检测方法、系统版本和已知限制。
  • 发布层:确认深度伪造的可见标签或可听说明在首次接触时即可感知,而不是藏在多级菜单、技术元数据或需要专用工具读取的位置。

上线前的证据包还应能还原角色判断和例外判断。以下是实务留存建议,并不表示第50条为所有企业规定了统一文件格式或固定保存期限。

  1. 列明每项功能的提供者、部署者、品牌展示方、专业发布方及欧盟使用场景,并保存判断依据。
  2. 保存首次互动告知的文案、位置、触发时点、语言版本和无障碍测试结果。
  3. 记录机器标记的技术规格、适用内容类型、检测结果、转码后的保持情况和已知失败条件。
  4. 为深度伪造保留发布前分类、最终披露版本及首次曝光位置的证据。
  5. 对主张标准编辑或公共利益文本编辑例外的内容,保存输入输出差异、实质审查意见、批准权限和最终责任主体。
  6. 单独识别2026年8月2日前已投放市场且拟使用有限宽限期的系统,避免把延期错误扩展到交互告知或部署者披露。

判断顺序可以压缩为三个问题:企业在具体功能中是什么角色,互动或内容落入第50条哪一款,面向人的告知与面向机器的可检测性是否分别通过验收。只问“有没有水印”,会同时漏掉责任主体、披露对象和例外条件。

分享:

订阅我们的新闻通讯

将最新 Web3、AI 和加密货币新闻直接发送到您的邮箱。

0