為規範人工智能生成合成內容標識，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益，根據《中華人民共和國網絡安全法》、《互聯網信息服務算法推薦管理規定》、《互聯網信息服務深度合成管理規定》、《生成式人工智能服務管理暫行辦法》等法律法規，國家互聯網信息辦公室起草了《人工智能生成合成內容標識辦法(徵求意見稿)》，現向社會公開徵求意見。公眾可通過以下途徑和方式提出反饋意見：

　1.通過電子郵件方式發送至：[email protected]。

　2.通過信函方式將意見寄至：北京市西城區車公莊大街11號國家互聯網信息辦公室網絡管理技術局，郵編100044，並在信封上註明「人工智能生成合成內容標識辦法徵求意見」。

　意見反饋截止時間為2024年10月14日。

　附件：人工智能生成合成內容標識辦法(徵求意見稿)

　國家互聯網信息辦公室

　2024年9月14日

　人工智能生成合成內容標識辦法

　(徵求意見稿)

　第一條 為促進人工智能健康發展，規範人工智能生成合成內容標識，保護公民、法人和其他組織合法權益，維護社會公共利益，根據《中華人民共和國網絡安全法》、《互聯網信息服務算法推薦管理規定》、《互聯網信息服務深度合成管理規定》、《生成式人工智能服務管理暫行辦法》等法律、行政法規和部門規章，制定本辦法。

　第二條符合《互聯網信息服務算法推薦管理規定》、《互聯網信息服務深度合成管理規定》、《生成式人工智能服務管理暫行辦法》規定情形的網絡信息服務提供者(以下簡稱「服務提供者」)開展人工智能生成合成內容標識的，適用本辦法。

　行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發、應用人工智能生成合成技術，未向境內公眾提供服務的，不適用本辦法的規定。

　第三條人工智能生成合成內容是指利用人工智能技術製作、生成、合成的文本、圖片、音頻、視頻等信息。

　人工智能生成合成內容標識包括顯式標識和隱式標識。

　顯式標識是指在生成合成內容或者交互場景界面中添加的，以文字、聲音、圖形等方式呈現並可被用戶明顯感知到的標識。

　隱式標識是指採取技術措施在生成合成內容文件數據中添加的，不易被用戶明顯感知到的標識。

　第四條 服務提供者提供的生成合成服務屬於《互聯網信息服務深度合成管理規定》第十七條第一款情形的，應當按照下列要求對生成合成內容添加顯式標識。

　(一)在文本的起始、末尾、中間適當位置添加文字提示或通用符號提示等標識，或在交互場景界面或文字周邊添加顯著的提示標識;

　(二)在音頻的起始、末尾或中間適當位置添加語音提示或音頻節奏提示等標識，或在交互場景界面中添加顯著的提示標識;

　(三)在圖片的適當位置添加顯著的提示標識;

　(四)在視頻起始畫面和視頻播放周邊的適當位置添加顯著的提示標識，可在視頻末尾和中間適當位置添加顯著的提示標識;

　(五)呈現虛擬場景時，應當在起始畫面的適當位置添加顯著的提示標識，可在虛擬場景持續服務過程中的適當位置添加顯著的提示標識;

　(六)其他生成合成服務場景應當根據自身應用特點添加具有顯著提示效果的顯式標識。

　服務提供者提供生成合成內容下載、複製、導出等方式時，應當確保文件中含有滿足要求的顯式標識。

　第五條 服務提供者應當按照《互聯網信息服務深度合成管理規定》第十六條的規定，在生成合成內容的文件元數據中添加隱式標識，隱式標識包含生成合成內容屬性信息、服務提供者名稱或編碼、內容編號等製作要素信息。

　鼓勵服務提供者在生成合成內容中添加數字水印等形式的隱式標識。

　文件元數據是指按照特定編碼格式嵌入到文件頭部的描述性信息，用於記錄文件來源、屬性、用途、版權等信息內容。

　第六條 提供網絡信息內容傳播平台服務的服務提供者應當採取措施，規範生成合成內容傳播活動。

　(一)應當核驗文件元數據中是否含有隱式標識，對於含有隱式標識的，應當採取適當方式在發布內容周邊添加顯著的提示標識，明確提醒用戶該內容屬於生成合成內容;

　(二)文件元數據中未核驗到隱式標識，但用戶聲明為生成合成內容的，應當採取適當方式在發布內容周邊添加顯著的提示標識，提醒用戶該內容可能為生成合成內容;

　(三)文件元數據中未核驗到隱式標識，用戶也未聲明為生成合成內容，但提供網絡信息內容傳播平台服務的服務提供者檢測到顯式標識或其他生成合成痕跡的，可識別為疑似生成合成內容，應當採取適當方式在發布內容周邊添加顯著的提示標識，提醒用戶該內容疑似為生成合成內容;

　(四)對於確為、可能和疑似生成合成內容的，應當在文件元數據中添加生成合成內容屬性信息、傳播平台名稱或編碼、內容編號等傳播要素信息;

　(五)提供必要的標識功能，並提醒用戶主動聲明發布內容中是否包含生成合成內容。

　第七條 互聯網應用程式分發平台在應用程式上架或上線審核時，應當核驗服務提供者是否按要求提供生成合成內容標識功能。

　第八條 服務提供者應當在用戶服務協議中明確說明生成合成內容標識的方法、樣式等規範內容，並提示用戶仔細閱讀並理解相關的標識管理要求。

　第九條 如用戶需要服務提供者提供沒有添加顯式標識的生成合成內容，可在通過用戶協議明確用戶的標識義務和使用責任後，提供不含顯式標識的生成合成內容，並留存相關日誌不少於六個月。

　第十條 用戶向提供網絡信息內容傳播平台服務的服務提供者上傳生成合成內容時，應當主動聲明並使用平台提供的標識功能進行標識。

　任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規定的生成合成內容標識，不得為他人實施上述惡意行為提供工具或服務，不得通過不正當標識手段損害他人合法權益。

　第十一條 服務提供者應當按照有關強制性國家標準的要求進行標識。

　第十二條 服務提供者在履行算法備案、安全評估等手續時，應當按照本辦法提供生成合成內容標識相關材料，並加強標識信息共享，為防範打擊相關違法犯罪活動提供支持和幫助。

　第十三條 違反本辦法規定，未對生成合成內容進行標識造成嚴重後果的，由網信等有關主管部門按照有關法律、行政法規、部門規章的規定予以處罰。

　第十四條 本辦法自2024年 月 日起施行。