今年3月,国家网信办、工业和信息化部、公安部、国家广播电视总局制定了《人工智能生成合成内容标识办法》(以下简称《办法》),办法共14条,将于2025年9月1日开始施行。
接下来,所有AI合成的内容,都必须依法打“电子水印”。AI合成的内容,也就是利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。“电子水印”,即人工智能生成合成内容标识,包括显式标识和隐式标识。
显式标识需在内容中直接显示文字提示(如图片右下角标注“AI生成”),隐式标识则通过文件元数据嵌入技术标记生成来源。违规将面临限流、下架等处罚,平台需主动检测AI内容标识。该规定旨在防止AI内容被滥用,如伪造名人声音、换脸诈骗等行为,保障公众知情权。