《互聯網信息服務深度合成管理規定》答記者問
發稿時間:2022-12-13 11:15:35 來源:網信辦網站
一、問:請您簡要介紹《規定》出台的背景?
答:製定《規定》主要基於(yu) 以下幾個(ge) 方麵的考慮。一是深入貫徹落實黨(dang) 中央決(jue) 策部署。《法治社會(hui) 建設實施綱要(2020-2025年)》明確提出製定完善對算法推薦、深度偽(wei) 造等新技術應用的規範管理辦法。出台《規定》,能夠進一步加強對新技術新應用新業(ye) 態的管理,統籌發展與(yu) 安全,推進深度合成技術依法合理有效利用。二是維護網絡空間良好生態。深度合成服務在滿足用戶需求、改進用戶體(ti) 驗的同時,也被一些不法人員用於(yu) 製作、複製、發布、傳(chuan) 播違法信息,詆毀、貶損他人名譽、榮譽,仿冒他人身份實施詐騙等違法行為(wei) ,影響傳(chuan) 播秩序和社會(hui) 秩序,損害人民群眾(zhong) 合法權益,危害國家安全和社會(hui) 穩定。出台《規定》,能夠劃定深度合成服務的“底線”和“紅線”,維護網絡空間良好生態。三是促進深度合成服務規範發展。落實《網絡安全法》《數據安全法》《個(ge) 人信息保護法》《互聯網信息服務管理辦法》等法律、行政法規,對應用深度合成技術提供互聯網信息服務製定係統性、專(zhuan) 門性規定,能夠明確各類主體(ti) 的信息安全義(yi) 務,為(wei) 促進深度合成服務規範發展提供有力法治保障。
二、問:《規定》中所稱深度合成技術是指什麽(me) ?
答:《規定》中所稱深度合成技術,是指利用深度學習(xi) 、虛擬現實等生成合成類算法製作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術,具體(ti) 包括篇章生成、文本風格轉換、問答對話等生成或者編輯文本內(nei) 容的技術,文本轉語音、語音轉換、語音屬性編輯等生成或者編輯語音內(nei) 容的技術,音樂(le) 生成、場景聲編輯等生成或者編輯非語音內(nei) 容的技術,人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態操控等生成或者編輯圖像、視頻內(nei) 容中生物特征的技術,圖像生成、圖像增強、圖像修複等生成或者編輯圖像、視頻內(nei) 容中非生物特征的技術,三維重建、數字仿真等生成或者編輯數字人物、虛擬場景的技術等。
三、問:《規定》中所稱的深度合成服務提供者和技術支持者是指什麽(me) ?
答:《規定》中所稱的深度合成服務提供者,是指提供深度合成服務的組織、個(ge) 人。深度合成服務技術支持者,是指為(wei) 深度合成服務提供技術支持的組織、個(ge) 人。
四、問:《規定》對深度合成服務提供者落實信息安全主體(ti) 責任作出了哪些要求?
答:《規定》對深度合成服務提供者主體(ti) 責任進行了明確規定。一是不得利用深度合成服務製作、複製、發布、傳(chuan) 播法律、行政法規禁止的信息,或從(cong) 事法律、行政法規禁止的活動。二是建立健全用戶注冊(ce) 、算法機製機理審核、科技倫(lun) 理審查、信息發布審核、數據安全、個(ge) 人信息保護、反電信網絡詐騙、應急處置等管理製度,具有安全可控的技術保障措施。三是製定和公開管理規則、平台公約,完善服務協議,落實真實身份信息認證製度。四是加強深度合成內(nei) 容管理,采取技術或者人工方式對輸入數據和合成結果進行審核,建立健全用於(yu) 識別違法和不良信息的特征庫,記錄並留存相關(guan) 網絡日誌。五是建立健全辟謠機製,發現利用深度合成服務製作、複製、發布、傳(chuan) 播虛假信息的,應當及時采取辟謠措施,保存有關(guan) 記錄,並向網信部門和有關(guan) 主管部門報告。
五、問:《規定》明確了深度合成服務提供者和技術支持者的哪些數據和技術管理規範?
答:一是加強訓練數據管理。采取必要措施保障訓練數據安全;訓練數據包含個(ge) 人信息的,應當遵守個(ge) 人信息保護的有關(guan) 規定;提供人臉、人聲等生物識別信息顯著編輯功能的,應當提示使用者依法告知被編輯的個(ge) 人,並取得其單獨同意。二是加強技術管理。定期審核、評估、驗證生成合成類算法機製機理;提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、國家形象、國家利益和社會(hui) 公共利益的特殊物體(ti) 、場景等非生物識別信息編輯功能的模型、模板等工具的,應當依法自行或者委托專(zhuan) 業(ye) 機構開展安全評估。
六、問:《規定》明確了深度合成服務提供者的哪些標識要求?
答:一是深度合成服務提供者對使用其服務生成或者編輯的信息內(nei) 容,應當采取技術措施添加不影響用戶使用的標識,並依法依規保存日誌信息。二是提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等具有生成或者顯著改變信息內(nei) 容功能服務的,應當在生成或者編輯的信息內(nei) 容的合理位置、區域進行顯著標識,向公眾(zhong) 提示信息內(nei) 容的合成情況,避免公眾(zhong) 混淆或者誤認;提供非上述深度合成服務的,應當提供顯著標識功能,並提示使用者可以進行顯著標識。任何組織和個(ge) 人不得采用技術手段刪除、篡改、隱匿相關(guan) 標識。
七、問:《規定》明確了深度合成服務提供者和技術支持者的哪些備案義(yi) 務?
答:《規定》明確,具有輿論屬性或者社會(hui) 動員能力的深度合成服務提供者,應當按照《互聯網信息服務算法推薦管理規定》履行備案和變更、注銷備案手續。深度合成服務技術支持者應當參照服務提供者履行備案和變更、注銷備案手續。完成備案的深度合成服務提供者和技術支持者應當在其對外提供服務的網站、應用程序等的顯著位置標明其備案編號並提供公示信息鏈接。
八、問:《規定》對深度合成服務提供者履行安全評估和配合監督檢查義(yi) 務提出了哪些要求?
答:《規定》明確,深度合成服務提供者開發上線具有輿論屬性或者社會(hui) 動員能力的新產(chan) 品、新應用、新功能的,應當按照國家有關(guan) 規定開展安全評估。深度合成服務提供者和技術支持者應當依法配合網信部門和有關(guan) 主管部門開展的監督檢查,並提供必要的技術、數據等支持和協助。發現存在較大信息安全風險的,網信部門和有關(guan) 主管部門可以按照職責依法要求其采取暫停信息更新、用戶賬號注冊(ce) 或者其他服務等措施。
友情鏈接:




