国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》于9月1日起正式施行。该办法要求所有AI生成的文字、图片、视频等内容都要“亮明身份”。
目前，我国已有490余款大模型在国家网信办完成备案，240余款大模型在省级网信办完成登记，生成式人工智能产品的用户规模已达2.3亿人。根据办法，人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。这些内容的标识包括显式标识和隐式标识。平台在内容上架或上线时需进行审核，核验生成合成内容标识，并对未标识或疑似生成内容添加风险提示，以阻断虚假信息扩散。
该办法与《『互联网』信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规充分衔接。服务提供者在履行算法备案、安全评估等手续时，相关材料可能涉及标识的技术细节，如水印算法、元数据格式、服务商编码等。这些信息有助于执法部门在发现违法内容时快速识别内容来源，追踪到服务提供者或用户。
