2022年，國家互聯網信息辦公室聯合工業和信息化部、公安部發布了《互聯網信息服務深度合成管理規定》（以下簡稱《規定》），為蓬勃發展的深度合成技術應用劃定了清晰的監管邊界，標志著我國在人工智能治理領域邁出了關鍵一步。本課件旨在對該《規定》的核心內容、出臺背景及重要意義進行梳理與解讀。
一、 出臺背景：技術雙刃劍呼喚規范發展
深度合成技術，指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術。從“AI換臉”到智能寫作，從虛擬主播到數字人，深度合成技術應用場景不斷拓展，在娛樂、教育、醫療、商業等領域展現出巨大潛力。技術濫用也帶來了諸多風險與挑戰：偽造音視頻進行詐騙誹謗、制造虛假信息擾亂社會秩序、侵犯個人肖像權與名譽權等事件時有發生，給國家安全、社會公共利益和公民合法權益帶來嚴重威脅。在此背景下，《規定》的出臺旨在興利除弊，促進技術健康有序發展，維護網絡空間清朗。
二、 核心要點：明確責任，劃定紅線
《規定》共五章二十五條，主要內容可概括為以下幾個方面：
- 明確定義與適用范圍：清晰界定了“深度合成技術”和“深度合成服務提供者”、“深度合成服務使用者”等概念，明確了管理規定適用于利用深度合成技術提供互聯網信息服務的行為。
- 壓實主體責任：要求深度合成服務提供者（包括技術支持者）落實主體責任，建立健全管理制度，包括：
- 真實身份認證：對深度合成服務使用者進行真實身份信息認證。
- 內容管理義務：采取技術或人工方式對深度合成信息內容進行審核，并建立健全辟謠機制。
- 顯著標識義務：對使用深度合成技術生成的圖像、視頻等內容，進行顯著標識（如添加水印、標簽等），避免公眾誤解。
- 數據與技術管理：加強訓練數據管理，確保數據合法合規；定期審核、評估、驗證算法機制機理。
- 規范服務使用行為：要求深度合成服務使用者（包括組織和個人）不得利用深度合成服務從事法律、行政法規禁止的活動，不得制作、復制、發布、傳播違法和不良信息。使用深度合成技術制作、發布信息時，應進行顯著標識。
- 強調安全評估與標識：對具有輿論屬性或社會動員能力的深度合成服務，以及生成或編輯生物識別信息、可能涉及國家安全與社會公共利益的場景，提出了安全評估的要求。再次強化了對合成內容的標識規定。
- 明確監督檢查與法律責任：規定網信、電信、公安等部門的監督管理職責，并明確了違反規定的相應法律責任，為監管執法提供了依據。
三、 重要意義：平衡創新與治理，構建可信生態
《規定》的頒布實施具有深遠意義：
- 劃定發展軌道：為深度合成技術的研發與應用提供了明確的法律遵循和行為指南，有助于引導技術向善，防范技術濫用風險。
- 保護公民權益：通過標識義務、內容審核等規定，有效保護公民個人信息、肖像權、名譽權等免受深度合成技術濫用的侵害。
- 維護國家安全與社會穩定：通過建立安全評估、內容治理等機制，有力防范和抵制利用深度合成技術制作、傳播虛假有害信息，破壞社會穩定、危害國家安全的行為。
- 促進產業健康發展：明確的規則有助于營造穩定、公平、透明的市場環境，增強用戶信任，從而推動深度合成技術及相關產業在合規框架下持續創新與繁榮。
四、 與展望
《互聯網信息服務深度合成管理規定》是我國網絡空間法治化進程中的重要里程碑，是全球范圍內較早系統性規制深度合成技術的規范性文件之一。它體現了“技術發展、治理先行”的監管理念，在鼓勵技術創新的牢牢守住安全底線。隨著技術的不斷演進，相關治理規則也需動態調整。需要政府部門、行業企業、技術社群和廣大用戶共同努力，推動技術倫理、標準體系、檢測技術等多方面協同發展，最終構建一個安全、可靠、負責任的深度合成技術應用生態，讓技術進步更好地造福社會。
