國家互聯網信息辦公室、工業和信息化部、公安部近日聯合發布《互聯網信息服務深度合成管理規定》（以下簡稱《規定》），強調不得利用深度合成服務從事法律、行政法規禁止的活動，要求深度合成服務提供者落實信息安全主體責任，《規定》將於2023年1月10日起施行。

深度合成技術，是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術。具體到應用層面，視頻換臉、語音合成、影像修復、虛擬數字人等越來越多地出現在社交娛樂、影視制作、廣告營銷等領域，商業使用場景愈發多元化，給用戶和受眾帶來新奇有趣的觀感體驗。

但也要看到，深度合成技術是一柄雙刃劍。深度合成過於“逼真”使交互變得虛實難辨，耳聽或眼見未必為實，滋生出一系列安全隱患。比如，不法分子利用有關技術，制作、復制、發布、傳播違法和不良信息﹔詆毀、貶損他人名譽、榮譽﹔偽造音頻、視頻搞變聲、變臉，實施新型詐騙……嚴重損害人民群眾合法權益，嚴重威脅社會信息安全，這一切已引起有關部門的高度重視。

《規定》的出台，正是為了加強針對互聯網信息服務深度合成的管理，統籌協調相關監管工作，確保相關技術與應用納入規范化、法治化軌道，維護國家安全和社會公共利益。

壓實並強化深度合成服務提供者的信息安全主體責任，勢在必行。《規定》要求，深度合成服務提供者建立健全包括算法機制機理審核、科技倫理審查等管理制度，以及具有安全可控的技術保障措施。從源頭上控制，從制度上保障，是確保深度合成技術合理安全應用的前提。在此基礎上，制定公開管理規則、平台公約，完善服務協議，則是依法依約履行管理責任，約束使用者承擔信息安全義務，防止別有用心者“胡作非為”。依法對深度合成服務使用者進行真實身份信息認証，建立健全辟謠機制和申訴、投訴、舉報機制等，更使管理與規范系統化、精細化。

特別要指出的是，對於可能導致公眾混淆或者誤認的，深度合成服務提供者應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識。這一規定十分重要，顯著標識能夠起到“以正視聽”的作用。簡言之，深度合成技術作為現代科技文明的產物，必須被置於以技術倫理規制、以法治文明治理的框架內。

行政監督與司法亮劍，同樣必不可少。《規定》明確，網信部門和電信主管部門、公安部門依據職責對深度合成服務開展監督檢查，發現較大信息安全風險的，應當依法要求整改，消除隱患。深度合成服務提供者違反《規定》，造成嚴重后果的，依法從重處罰。構成犯罪的，依法追究刑事責任。法有禁止不可為，任何單位或個人妄圖利用深度合成技術“為非作歹”，必將自食苦果。

網絡空間天朗氣清，符合人民利益。規范和引導依法、合理、有效使用深度合成技術，是防范化解安全風險的必然要求，是促進深度合成服務健康發展的必然選擇，更是維護清朗的網絡生態的必然條件。

分享讓更多人看到