国家网信办发布人工智能生成合成内容标识办法，鼓励添加数字水印

最近，中国和其他四个部门的网络空间管理发布了“产生人工智能综合内容识别的措施”，该措施提到鼓励服务提供商添加隐性标识，例如数字水印来生成合成内容。如果用户申请服务提供商在不明确识别的情况下提供生成的合成内容，则服务提供商可以在澄清用户通过用户协议澄清用户的识别义务和使用责任之后提供生成的合成内容，并保留相关的日志，并保留相关的日志，例如根据法律提供的不少于六个月的法律。

识别人工智能中合成内容的方法

第1条为了促进人工智能的健康发展，标准化人工智能的产生和合成内容识别，保护公民，法人和其他组织的合法权利和利益，并维护社会的公共利益，这些措施是根据“中国人民共和国”的“ cybersecurity of Information of Information of Information of Information of Information of Information of Information”的“互联网信息服务的深入综合管理”，“生成人工智能服务管理的临时措施”以及其他法律，行政法规和部门法规。

第2条网络信息服务提供商（以下称为“服务提供者”）遵守“有关互联网信息服务算法的建议管理法规”中规定的情况，“关于互联网信息服务的深入合成管理”的法规”，以及“对生成的人工情报服务”进行人工情报和合成的衡量，以衡量人工智能服务的临时措施。

第3条人工智能生成和合成内容是指使用人工智能技术产生和合成的文本，图片，音频，视频，虚拟场景等信息。

人工智能生成综合内容标识，包括明确和隐式识别。

显式标识是指在文本，声音，图形等中列出的生成的合成内容或交互式场景接口中添加的标识，并且用户可以清楚地感知。

隐式标识是指在技术度量产生的数据中添加的标识，用户不容易感知。

第4条如果服务提供商提供的一代和综合服务属于第17条的情况，即“关于互联网信息服务的深层综合管理法规”的第1款，则应添加生成的合成内容如下：

（1）在本文的开始，结束或中间添加文本提示或常规符号提示和其他标识符，或在交互式场景的界面以及文本周围添加重要的提示标识符；

（2）在音频的开始，结束或中间添加语音提示或音频节奏提示和其他标志，或在交互式场景接口中添加重要的提示符号；

（3）在图片的适当位置添加明显的及时标志；

（4）在视频开始屏幕和视频播放周围的适当位置添加重要的及时符号。您可以在视频的末端和中间添加重要的及时迹象；

（5）在展示虚拟场景时，在启动屏幕的适当位置添加明显的提示符号，并在虚拟场景的连续服务期间在适当位置添加明显的提示符号；

（vi）其他一代和综合服务方案根据其自己的应用特征增加了重要的提示标记。

当服务提供商提供诸如下载，复制和导出综合内容之类的功能时，应确保文件包含满足要求的明确标识符。

第5条服务提供商应符合“有关互联网信息服务的深层综合管理法规”的第16条，在生成合成内容的文件元数据中添加隐式标识符。隐式标识符包括有关生产元素的信息，例如生成的合成内容的属性信息，服务提供商名称或编码，内容编号。

鼓励服务提供商添加隐性标识，例如数字水印来生成合成内容。

文件元数据是指以特定的编码格式嵌入到文件标头中的描述性信息，用于记录文件的源，属性，用途和其他信息内容。

第6条提供网络信息内容传播服务的服务提供商应采取以下措施来标准化合成内容的生成和分布：

（1）验证文件元数据是否包含隐式标识符。如果清楚地将文件元数据标记为生成合成内容，则应使用适当的方法在已发布的内容周围添加重要的提示标识符，以清楚地提醒公众该内容属于生成合成内容；

（2）如果在文件元数据中未验证隐式标识符，但是用户宣布它要生成合成内容，则应采用适当的方法来添加围绕已发布内容的重要提示标识符，以提醒公众可以生成合成内容；

（3）如果在文件元数据中未验证隐式标识，并且用户尚未声明其生成合成内容。但是，如果提供网络信息内容传播服务的服务提供商可以检测到明确的识别或其他生成合成内容的痕迹，则将被确定为怀疑是涉嫌生成合成内容，并将采用适当的方法来添加围绕已发表的内容的重要及时识别，以提醒公众涉嫌生成的合成内容；

（iv）提供必要的识别功能，并提醒用户积极声明已发布的内容是否包含生成的合成内容。

如果前一段的第一个到第三项中有任何情况，则应将有关生成的合成内容属性信息，通信平台名称或编码，内容编号和其他通信元素信息添加到文件元数据中。

第7条当在线启动或审查Internet应用程序分发平台时，它应要求Internet应用程序服务提供商解释它是否提供人工智能生成和合成服务。如果Internet应用程序服务提供商提供人工智能生成和合成服务，则Internet应用程序发行平台应验证合成内容识别的相关材料。

第8条服务提供商应明确规定在用户服务协议中生成合成内容标识的方法，样式和其他规范，并提示用户仔细阅读并了解相关的识别管理要求。

第9条如果用户适用于服务提供商在不添加明确标识的情况下提供生成的合成内容，则服务提供商可以在澄清用户的识别义务并通过用户同意使用后，并保留相关的日志，例如与法律相关的对象信息，否则服务提供商可以提供生成的合成内容，而无需明确的识别，并使用该法律，以供法律提供不少于6个月的法律。

第10条如果用户使用网络信息内容传播服务来发布和生成综合内容，则他应积极声明并使用服务提供商提供的识别功能来识别。

任何组织或个人都不能恶意删除，篡改，锻造或隐藏在这些措施中规定的生成的合成内容徽标，不得为他人提供上述恶意行为的工具或服务，并且不得通过不当身份损害他人的合法权利和利益。

第11条服务提供商进行徽标活动时，它还应遵守相关法律，行政法规，部门法规和强制性国家标准的要求。

第12条执行算法归档，安全评估和其他程序时，服务提供商应提供相关的材料，以根据这些措施生成合成内容识别，并加强识别信息共享，以在预防和打击相关的非法和犯罪活动方面提供支持和帮助。

第13条如果违反了这些措施的规定，则应根据其职责以及相关法律，行政法规和部门法规来处理相关的主管部门，例如互联网信息，电信，公共安全，广播和电视。

第14条该措施应于2025年9月1日生效。