关注我们
2024年9月14日，为规范人工智能生成合成内容标识，维护国家安全和社会公共利益，保护公民、法人和其他组织的合法权益，国家互联网信息办公室起草了《人工智能生成合成内容标识办法（征求意见稿）》（以下简称《办法》），现向社会公开征求意见。人工智能生成合成内容标识有何分类，添加标识又有何要求？《办法》对这些问题都做了一一规定，以下为《办法》的要点梳理。
《人工智能生成合成内容标识办法（征求意见稿）》要点梳理
人工智能生成合成内容：是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。
人工智能生成合成内容标识：根据能否被用户明显感知，分为显式标识和隐式标识。
包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息
显式标识：是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识。
隐式标识：是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。
文本：在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识； 音频：在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识，或在交互场景界面中添加显著的提示标识； 图片：在图片的适当位置添加显著的提示标识； 视频：在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可在视频末尾和中间适当位置添加显著的提示标识； 虚拟场景：呈现虚拟场景时，应当在起始画面的适当位置添加显著的提示标识，可在虚拟场景持续服务过程中的适当位置添加显著的提示标识； 其他：其他生成合成服务场景应当根据自身应用特点添加具有显著提示效果的显式标识。
鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。 文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息，用于记录文件来源、属性、用途、版权等信息内容。
网络信息服务提供者的责任： （一）应当核验文件元数据中是否含有隐式标识，对于含有隐式标识的，应当采取适当方式在发布内容周边添加显著的提示标识，明确提醒用户该内容属于生成合成内容； （二）文件元数据中未核验到隐式标识，但用户声明为生成合成内容的，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容可能为生成合成内容； （三）文件元数据中未核验到隐式标识，用户也未声明为生成合成内容，但提供网络信息内容传播平台服务的服务提供者检测到显式标识或其他生成合成痕迹的，可识别为疑似生成合成内容，应当采取适当方式在发布内容周边添加显著的提示标识，提醒用户该内容疑似为生成合成内容；（四）对于确为、可能和疑似生成合成内容的，应当在文件元数据中添加生成合成内容属性信息、传播平台名称或编码、内容编号等传播要素信息； （五）提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容。 互联网应用程序分发平台的责任： 在应用程序上架或上线审核时，核验服务提供者是否提供生成合成内容标识功能。
服务提供者应尽义务： 在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容，并提示用户理解相关的标识管理要求。 如用户需要服务提供者提供没有添加显式标识的生成合成内容，可在通过用户协议明确用户的标识义务和使用责任后，提供不含显式标识的生成合成内容，并留存相关日志不少于六个月。 用户上传生成合成内容应履行规定： 用户向提供网络信息内容传播平台服务的服务提供者上传生成合成内容时，应当主动声明并使用平台提供的标识功能进行标识。 任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识，不得为他人实施上述恶意行为提供工具或服务，不得通过不正当标识手段损害他人合法权益。
继承《生成式人工智能服务管理暂行办法》文件精神
此外，通过将《办法》与《生成式人工智能服务管理暂行办法》对比，不难发现《办法》的许多内容也继承了该文件的核心精神。
关于我们
清华大学人工智能国际治理研究院（Institute for AI International Governance, Tsinghua University，THU I-AIIG）是2020年4月由清华大学成立的校级科研机构。依托清华大学在人工智能与国际治理方面的已有积累和跨学科优势，研究院面向人工智能国际治理重大理论问题及政策需求开展研究，致力于提升清华在该领域的全球学术影响力和政策引领作用，为中国积极参与人工智能国际治理提供智力支撑。
新浪微博：@清华大学人工智能国际治理研究院
Bilibili：清华大学AIIG