9月1日起,AI生成合成内容必须添加标识,AI合成内容的标识和监管,目前全球多个国家和地区都有哪些规定,deepseek说

我爱免费

作者：微信文章
       关于AI合成内容的标识和监管，目前全球多个国家和地区正在逐步出台相关规定，中国在此领域已率先实施具体政策。以下是主要进展和分析：
一、中国现行法规

《生成式人工智能服务管理暂行办法》


生成式AI服务提供者需对图片、视频等内容添加显著标识（如水印、文字说明）。

禁止利用AI生成虚假信息、歧视性内容，并要求建立用户投诉机制。

提供者需进行安全评估、算法备案，并通过网信部门审查。




实施时间：2023年8月15日

核心要求：

处罚措施：未标识或违规内容最高面临10万元罚款，严重者暂停服务。


《互联网信息服务深度合成管理规定》（2023年1月）


明确要求深度合成服务提供者和技术支持者需对AI生成内容进行标识，涵盖语音、图像、视频等场景。

二、国际动态

欧盟《人工智能法案》（AI Act）


高风险AI系统需满足透明度义务，生成内容必须标明“由AI创建”。

深度伪造内容需显著披露，违者最高罚款全球营收6%。




进展：2024年5月通过最终草案，预计2026年全面实施。


美国


联邦层面：白宫2023年10月行政令要求开发者在AI生成内容中嵌入“不可移除水印”。

州立法：加州等州正推进法案，强制政治广告中AI生成内容需标注。

行业自律：Google、Meta等公司承诺使用SynthID等工具标记AI内容。

三、技术实现与挑战

标识技术


显性标识：在图像/视频角落添加“AI生成”文字（如Midjourney默认操作）。

隐性水印：Google的SynthID在像素中嵌入不可见水印，抗截图和编辑。

元数据标准：C2PA（内容来源和真实性联盟）推动在文件元数据中记录创作信息。


执行难点


技术规避：用户可能使用工具去除水印，需发展更鲁棒的标识技术。

跨境监管：不同国家法规差异可能导致合规成本上升。

长尾场景：个人用户使用开源模型（如Stable Diffusion）生成内容难以追溯。

四、行业影响与应对建议

企业合规成本


头部平台（如抖音、微信）已上线AI内容标识功能，中小开发者需集成API增加成本。

内容审核团队需培训识别未标注AI内容，人力投入增加约15-30%。


用户应对策略


创作者：需在商业作品中明确标注AI辅助比例，避免版权纠纷（如Getty Images要求投稿者声明）。

消费者：可通过检测工具（如Hive Moderation、AI or Not）验证内容真实性。


未来趋势


立法细化：针对金融、医疗等高风险领域的AI内容可能出台专项标识规则。

技术融合：区块链或用于存储AI内容生成溯源信息，提升可信度。

建议相关企业提前部署内容标识系统，并关注各国立法动态以避免跨境业务风险。普通用户则应提高对AI合成内容的辨识意识，尤其在接收新闻、金融建议等关键信息时，优先选择已标注来源的内容。

      

申明：以上内容为deepseek整理！

        记者14日获悉，国家网信办、工业和信息化部、公安部、国家广播电视总局制定了《人工智能生成合成内容标识办法》。办法共14条，将于今年9月1日起施行。


人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。

显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。

办法明确——

■ 对生成合成内容添加显式标识

服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识：

在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识，或者在交互场景界面、文字周边添加显著的提示标识；在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识，或者在交互场景界面中添加显著的提示标识；在图片的适当位置添加显著的提示标识；在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可以在视频末尾和中间适当位置添加显著的提示标识；呈现虚拟场景时，在起始画面的适当位置添加显著的提示标识，可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识；其他生成合成服务场景根据自身应用特点添加显著的提示标识。

服务提供者提供生成合成内容下载、复制、导出等功能时，应当确保文件中含有满足要求的显式标识。

■ 在生成合成内容的文件元数据中添加隐式标识

服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定，在生成合成内容的文件元数据中添加隐式标识，隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。

鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途等信息内容。

---

来源：央视新闻

申明：本文 相关内容来源deepseek及央视新闻，相关内容、图片及版权归原作者所有，如有侵权请联系删除，谢谢！