9月1日起 AI生成合成內容必須添加標識

國家網信辦等四部門聯合發佈的《人工智慧生成合成內容標識辦法》，9月1日起正式施行，“標識辦法”明確所有AI生成的文字、圖片、視頻等內容都要“亮明身份”。

截至目前，我國已有490餘款大模型在國家網信辦完成備案，240餘款大模型在省級網信辦完成登記，我國生成式人工智慧產品的用戶規模已達2.3億人。 “標識辦法”明確，人工智慧生成合成內容是指利用人工智慧技術生成、合成的文本、圖片、音訊、視頻、虛擬場景等資訊。 人工智慧生成合成內容標識包括顯式標識和隱式標識。 平臺在服務提供者的內容上架或上線時要進行審核，核驗生成合成內容標識，對未標識或疑似生成內容要添加風險提示，從而在傳播端阻斷虛假信息擴散。

“標識辦法”與《互聯網資訊服務深度合成管理規定》《生成式人工智慧服務管理暫行辦法》等法規充分銜接。 服務提供者在履行演算法備案、安全評估等手續時，相關材料可能涉及標識的技術細節，如浮水印演算法、元數據格式、服務商編碼等，這些資訊能夠説明執法部門在發現違法內容時快速識別內容來源，追蹤到服務提供者或者使用者。