月光博客 » 业界动态 » 《人工智能生成合成内容标识办法》正式施行

《人工智能生成合成内容标识办法》正式施行

国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局四部门联合发布的《人工智能生成合成内容标识办法》(以下简称《办法》),自9月1日起正式施行。《办法》明确所有AI生成的文字、图片、视频等内容都要“亮明身份”。

《办法》明确,人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。平台在服务提供者的内容上架或上线时要进行审核,核验生成合成内容标识,对未标识或疑似生成内容要添加风险提示,从而在传播端阻断虚假信息扩散。

人工智能生成合成内容标识分“显式标识”和“隐式标识”两种。

显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。

隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。“隐式标识更像指纹,所有生成合成内容需在文件元数据中添加。一旦有问题,技术一查就能找到痕迹。”智能感知与控制四川省重点实验室副主任吴浩说,两种标识形成“显式告知用户、隐式支撑监管”的双重保障体系。

多平台推出细化规则

据整理发现,包括腾讯、抖音、快手、B站、DeepSeek等平台均对上述《办法》出台细化规则。

9月1日,抖音发布《关于升级AI内容标识功能的公告》,进一步规范平台上的AI内容创作与传播。《公告》显示,抖音已上线两项核心功能:一是AI内容标识功能,协助创作者为AI内容添加提示标识,方便用户辨别;二是AI内容元数据标识读写功能,可识别并写入AI内容的元数据信息,为内容溯源提供技术支撑。

若创作者未主动添加标识,抖音将辅助添加标识说明。一方面,平台会运用技术手段检测疑似使用AIGC技术生成的内容,并为其添加“疑似使用了AI生成技术,请谨慎甄别”的标识。另一方面,根据相关规定,AIGC技术服务提供者在生成AI内容时,需在元数据中添加隐式标识。当创作者在抖音发布此类内容时,如抖音核验出内容元数据中的隐式标识信息,将在作品页面添加“作品含AI生成内容”的标识。

8月31日,腾讯发布公告称,据《人工智能生成合成内容标识办法》要求,平台应对AI生成合成内容添加显式标识和隐式标识。为保障用户信息获取的透明度与可信度,平台进一步优化内容识别能力。用户通过平台获取的AI生成合成内容,可能带有显式标识或隐式标识。平台也会对可能是AI生成合成的内容进行相应提示,以便用户清晰辨识。

依据《人工智能生成合成内容标识办法》规定,用户在发布或传播AI生成合成内容时,不得以任何方式删除、篡改、伪造或隐匿平台添加的AI标识。同时不得利用AI技术制作传播虚假信息、侵权信息以及从事任何违法违规活动。对于违反法律法规及平台规范的行为,平台将视违规情况进行处罚。

8月29日,据B站公告,在行业主管部门指导下,不断升级完善站内AI相关的内容治理水平和管控能力,积极落实《人工智能生成合成内容标识办法》各项要求,推出AI生成合成内容标识功能,帮助大家更便捷地区分内容是否涉及AI生成。

B站站内已在投稿侧提供标识选项,UP主可以在运用AI技术产出优质内容的同时快捷进行自主声明。站内在投稿时,可通过发布界面点击【创作声明】选择【该视频使用人工智能合成技术】添加标识。站内会对于未主动声明的AI生成合成内容,依据法律法规要求,按照社区规则添加标识,用户不得恶意篡改、隐匿相关标识。下一步,站内将持续落实标识相关工作,优化AI治理链路,营造健康有序的网络环境。

快手公告称,已上线人工智能生成合成内容标识和用户主动声明功能:首先会在平台AI生成的内容中添加“AI生成”显式标识、以及嵌入文件元数据中的隐式标识;其次,在发布或传播明确由AI生成的内容或被平台检测为疑似AI的内容时,会在内容周边进行显著提示。

快手方面表示,平台鼓励创作者按照国家法律规定和平台规则,准确、规范标注AI内容。同时不得恶意删除、篡改、伪造、隐匿平台已标注的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。对于违反国家法律规定及平台相关规则的作品,以及恶意标注等违规行为,平台将按照社区规则进行处置。

9月1日,DeepSeek公告称,为贯彻落实《人工智能生成合成内容标识办法》(2025年9月1日起施行)及《网络安全技术人工智能生成合成内容标识方法》等国家标准的相关要求,防止AI生成内容可能引发的公众混淆、误认以及信息失实的风险,DeepSeek已在平台内对AI生成合成内容添加标识,并明确提醒用户相关内容由AI生成。用户不得恶意删除、篡改、伪造、隐匿此类生成内容标识,不得利用AI制作、传播虚假信息、侵权信息以及从事任何违法违规活动。

同时已发布《模型原理与训练方法说明》,对模型的基本原理、训练数据及内容生成机制予以说明,以帮助用户更全面地理解AI技术、合理使用 DeepSeek相关服务,切实保障用户的知情权和控制权,防范因误用或不当使用可能带来的各类风险。

专家解析:推动生成式人工智能的良性发展

《办法》的实施,会对行业、个人用户,以及相关技术发展带来哪些影响?

四川省委网信办相关负责人表示,强制“标识”能在保障安全与促进发展之间取得平衡。压实开发者、提供者和平台的主体责任,通过治理和规范去净化网络空间环境。

对行业而言,《办法》的实施,对人工智能企业选择相应的训练数据能起到很好的指引作用。吴浩解释,有隐式标识后,企业能更便捷地筛选高质量的数据进行模型训练,提升技术可信度,推动生成式人工智能的良性发展。

北京大成(成都)律师事务所律师陶雪汶认为,强制“标识”可有效遏制低质量、重复性生成合成内容的传播,维护平台内容原创性与公平性,为优质内容创作营造良好环境。另外,能减少因AI生成内容引发的侵权、诈骗等问题。

(来源:上观新闻)

以下为《人工智能生成合成内容标识办法》的通知原文:

人工智能生成合成内容标识办法

第一条 为了促进人工智能健康发展,规范人工智能生成合成内容标识,保护公民、法人和其他组织合法权益,维护社会公共利益,根据《中华人民共和国网络安全法》、《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等法律、行政法规和部门规章,制定本办法。

第二条 符合《互联网信息服务算法推荐管理规定》、《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》规定情形的网络信息服务提供者(以下简称“服务提供者”)开展人工智能生成合成内容标识活动,适用本办法。

第三条 人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。

人工智能生成合成内容标识包括显式标识和隐式标识。

显式标识是指在生成合成内容或者交互场景界面中添加的,以文字、声音、图形等方式呈现并可以被用户明显感知到的标识。

隐式标识是指采取技术措施在生成合成内容文件数据中添加的,不易被用户明显感知到的标识。

第四条 服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的,应当按照下列要求对生成合成内容添加显式标识:

(一)在文本的起始、末尾或者中间适当位置添加文字提示或者通用符号提示等标识,或者在交互场景界面、文字周边添加显著的提示标识;

(二)在音频的起始、末尾或者中间适当位置添加语音提示或者音频节奏提示等标识,或者在交互场景界面中添加显著的提示标识;

(三)在图片的适当位置添加显著的提示标识;

(四)在视频起始画面和视频播放周边的适当位置添加显著的提示标识,可以在视频末尾和中间适当位置添加显著的提示标识;

(五)呈现虚拟场景时,在起始画面的适当位置添加显著的提示标识,可以在虚拟场景持续服务过程中的适当位置添加显著的提示标识;

(六)其他生成合成服务场景根据自身应用特点添加显著的提示标识。

服务提供者提供生成合成内容下载、复制、导出等功能时,应当确保文件中含有满足要求的显式标识。

第五条 服务提供者应当按照《互联网信息服务深度合成管理规定》第十六条的规定,在生成合成内容的文件元数据中添加隐式标识,隐式标识包含生成合成内容属性信息、服务提供者名称或者编码、内容编号等制作要素信息。

鼓励服务提供者在生成合成内容中添加数字水印等形式的隐式标识。

文件元数据是指按照特定编码格式嵌入到文件头部的描述性信息,用于记录文件来源、属性、用途等信息内容。

第六条 提供网络信息内容传播服务的服务提供者应当采取下列措施,规范生成合成内容传播活动:

(一)核验文件元数据中是否含有隐式标识,文件元数据明确标明为生成合成内容的,采取适当方式在发布内容周边添加显著的提示标识,明确提醒公众该内容属于生成合成内容;

(二)文件元数据中未核验到隐式标识,但用户声明为生成合成内容的,采取适当方式在发布内容周边添加显著的提示标识,提醒公众该内容可能为生成合成内容;

(三)文件元数据中未核验到隐式标识,用户也未声明为生成合成内容,但提供网络信息内容传播服务的服务提供者检测到显式标识或者其他生成合成痕迹的,识别为疑似生成合成内容,采取适当方式在发布内容周边添加显著的提示标识,提醒公众该内容疑似生成合成内容;

(四)提供必要的标识功能,并提醒用户主动声明发布内容中是否包含生成合成内容。

有前款第一项至第三项情形的,应当在文件元数据中添加生成合成内容属性信息、传播平台名称或者编码、内容编号等传播要素信息。

第七条 互联网应用程序分发平台在应用程序上架或者上线审核时,应当要求互联网应用程序服务提供者说明是否提供人工智能生成合成服务。互联网应用程序服务提供者提供人工智能生成合成服务的,互联网应用程序分发平台应当核验其生成合成内容标识相关材料。

第八条 服务提供者应当在用户服务协议中明确说明生成合成内容标识的方法、样式等规范内容,并提示用户仔细阅读并理解相关的标识管理要求。

第九条 用户申请服务提供者提供没有添加显式标识的生成合成内容的,服务提供者可以在通过用户协议明确用户的标识义务和使用责任后,提供不含显式标识的生成合成内容,并依法留存提供对象信息等相关日志不少于六个月。

第十条 用户使用网络信息内容传播服务发布生成合成内容的,应当主动声明并使用服务提供者提供的标识功能进行标识。

任何组织和个人不得恶意删除、篡改、伪造、隐匿本办法规定的生成合成内容标识,不得为他人实施上述恶意行为提供工具或者服务,不得通过不正当标识手段损害他人合法权益。

第十一条 服务提供者开展标识活动的,还应当符合相关法律、行政法规、部门规章和强制性国家标准的要求。

第十二条 服务提供者在履行算法备案、安全评估等手续时,应当按照本办法提供生成合成内容标识相关材料,并加强标识信息共享,为防范打击相关违法犯罪活动提供支持和帮助。

第十三条 违反本办法规定的,由网信、电信、公安和广播电视等有关主管部门依据职责,按照有关法律、行政法规、部门规章的规定予以处理。

第十四条 本办法自2025年9月1日起施行。

《人工智能生成合成内容标识办法》正式施行

顶一下 ▲()   踩一下 ▼()

相关文章

发表留言