<output id="tbhtp"><address id="tbhtp"><ruby id="tbhtp"></ruby></address></output>

          <ins id="tbhtp"></ins>

            <ins id="tbhtp"></ins>

                正文

                專家解讀|加快規范深度合成技術應用

                2022年12月12日 15:27 來源: 中國網信網

                近年來,人工智能各項技術飛速發展,應用更加普及多元。其中,深度合成技術作為人工智能領域的創新應用技術,以其較低的應用門檻、較強的娛樂屬性、豐富的應用場景受到廣泛關注。特別是在互聯網信息服務領域,深度合成技術豐富了網絡內容形式,進一步釋放新技術新應用發展活力。但是,部分深度合成技術應用缺乏規范,對國家安全、社會穩定和公民合法權益帶來風險挑戰。黨的二十大報告強調,“健全網絡綜合治理體系,推動形成良好網絡生態”?!斗ㄖ紊鐣ㄔO實施綱要(2020-2025年)》明確要求,要制定完善算法推薦、深度偽造等新技術應用的規范管理辦法。為規范深度合成服務,國家互聯網信息辦公室、工業和信息化部、公安部聯合發布《互聯網信息服務深度合成管理規定》(以下簡稱《規定》)?!兑幎ā吠ㄟ^系統性、創新性制度設計,首次回應了對深度合成服務的管理要求,為互聯網信息服務深度合成的規范發展提供了基本遵循和合法依據。

                一、堅持系統觀念,完善互聯網信息服務法律體系

                《規定》積極落實黨的二十大報告關于立法系統性、整體性、協同性、時效性的要求,對互聯網信息服務深度合成作出了科學全面的制度規范。一方面,《規定》有效銜接了相關法律法規。在《網絡安全法》《數據安全法》《個人信息保護法》《互聯網信息服務管理辦法》等上位法框架下,《規定》有效承接了《網絡信息內容生態治理規定》《網絡音視頻信息服務管理規定》《互聯網信息服務算法推薦管理規定》等規章、規范性文件中關于網絡信息內容管理、新技術新應用安全評估、顯著標識、備案管理等制度規定,對深度合成服務管理機制、主體責任等作出了銜接性制度安排。另一方面,《規定》構建了統籌協調、多方參與的監管體制。《規定》明確,國家網信部門負責統籌協調全國深度合成服務的治理和監督管理工作,國務院電信主管部門、公安部門依據各自職責負責深度合成服務的監督管理工作。地方網信部門負責統籌協調本行政區域內深度合成服務的治理和監督管理工作,地方電信主管部門、公安部門依據各自職責負責本行政區域內深度合成服務的監督管理工作?!兑幎ā愤€鼓勵相關行業加強行業自律,搭建齊抓共管、協同共治的治理機制?!兑幎ā返某雠_,全面貫徹落實了黨中央關于網絡綜合治理的最新要求,通過系統化的制度安排進一步構建完善了我國網絡綜合治理法治體系。

                二、堅持問題導向,精準破解深度合成治理難題

                近年來,深度合成技術在社交、影視、廣告、醫療、教育、科研等諸多領域不斷深化應用,展現出較大的技術價值和商用潛力。同時,其“雙刃劍”效果明顯,在增加社會福祉的同時也帶來一系列風險挑戰。一是深度合成技術被用于非法目的,侵犯個人合法權益。如有案例反映詐騙分子利用深度合成技術冒充公司高管的聲音,詐騙該公司另一名高管巨額款項,給個人財產權益造成了重大損失。二是深度合成虛假內容引發信任危機,影響社會穩定。利用深度合成技術形成的新聞信息本身真實性、客觀性難以保障,更有不法分子利用深度合成技術發布虛假新聞、散布謠言等,造成錯誤輿論導向,影響社會穩定。三是深度合成技術可能被敵對勢力惡意利用,威脅國家安全。國外已出現多起利用深度合成技術偽造政治人物、公眾人物音頻和視頻的情形,不僅影響國內政治穩定,還可能會引發國家間的危機沖突。

                《規定》聚焦深度合成服務中存在的主要風險隱患進行針對性制度設計。一是明確深度合成服務不得用于非法目的。禁止任何個人和組織利用深度合成服務制作、復制、發布、傳播法律、行政法規禁止的信息,或從事危害國家利益、社會公共利益或個人合法權益等違法活動。禁止深度合成服務提供者和使用者利用深度合成服務制作、復制、發布、傳播虛假新聞信息。二是強化對個人合法權益的保護?!兑幎ā窂娬{深度合成服務提供者和技術支持者應當強化個人信息保護,提供人臉、人聲等生物識別信息編輯功能的,須提示使用者依法取得個人單獨同意。防止個人信息被非法利用,侵害個人合法權益。三是對深度合成服務提供者提出安全管理要求?!兑幎ā芬笊疃群铣煞仗峁┱哌M行用戶真實身份認證,建立信息發布審核、反電信網絡詐騙等管理制度?!兑幎ā吠ㄟ^相關制度設計,科學精準地回應了深度合成服務應用發展對國家、社會及個人帶來的風險挑戰,為促進新技術新應用的規范發展提供了有益范例。

                三、堅持規范發展,促進深度合成技術向上向善

                隨著深度合成技術不斷優化發展,其開發應用的空間將更為廣闊。近幾年,深度合成信息內容制作和傳播數量高速增長。同時,在“元宇宙”等新模式新場景下,深度合成技術將為智能化、視覺化、場景化、虛擬化的互聯網信息服務發展提供更多技術實現方案?!兑幎ā穲猿纸y籌發展和安全,以促進技術在規范中發展為價值取向,在明確“紅線”的同時為技術發展留足空間。一是對深度合成服務明確技術向善要求?!兑幎ā芬筇峁┥疃群铣煞諔斪鹬厣鐣潞蛡惱淼赖?,堅持正確政治方向、輿論導向、價值取向,促進深度合成服務向上向善。同時要求深度合成服務提供者應當建立算法機制機理審核、科技倫理審查等管理制度。二是以技術手段保障深度合成內容可溯源?!兑幎ā芬笊疃群铣煞仗峁┱咄ㄟ^有效技術措施對使用其服務所制作的信息內容添加標識,保證深度合成信息內容可識別、可追溯。三是區分場景規定差異化管理要求?!兑幎ā芬笊疃群铣煞仗峁┱邔ζ渖苫蚓庉嫷男畔热萏砑硬挥绊懹脩羰褂玫臉俗R,但對于可能導致公眾混淆或誤認的深度合成信息內容應當進行顯著標識。同時,要求具有輿論屬性或者社會動員能力的深度合成服務提供者和技術支持者履行備案義務?!兑幎ā坊诓煌膽脠鼍皩ι疃群铣煞者M行區分管理,在實現監管目的的同時也為技術發展提供了有效保障。

                四、堅持底線原則,壓實深度合成服務相關主體責任

                深度合成服務提供者和技術支持者,既是新技術新應用的創造者、受益者,也應是控制技術風險、引導技術向善的責任踐行者?!兑幎ā穱@明確各方責任義務進行了系統性制度設計。一方面,明確深度合成服務提供者的主體責任?!兑幎ā芬笊疃群铣煞仗峁┱呓⒔∪惴C制機理審核、信息內容管理、從業人員教育培訓等管理制度,具備安全可控的技術保障措施。制定并公開管理規則和平臺公約,并提示深度合成服務技術支持者和使用者承擔信息安全義務。加強內容管理,采取技術或者人工方式對輸入數據和合成結果進行審核,并建立健全相關特征庫。加強技術管理,定期審核、評估、驗證算法機制機理。提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的,應當開展安全評估。加強訓練數據管理,采取必要措施保障數據和個人信息安全。另一方面,明確深度合成服務技術支持者等主體的責任義務?!兑幎ā芬笊疃群铣煞占夹g支持者應承擔訓練數據管理、算法機制機理審核、安全評估等義務。應用程序分發平臺應落實上架審核、日常管理、應急處置等安全管理責任。

                五、堅持守正創新,貢獻深度合成服務治理中國智慧

                習近平總書記指出:“要深度參與全球科技治理,貢獻中國智慧,塑造科技向善的文化理念,讓科技更好增進人類福祉,讓中國科技為推動構建人類命運共同體作出更大貢獻!”近年來,我國加快推進新技術新應用創新發展,并對技術發展過程中帶來的挑戰及時回應,針對區塊鏈信息服務、互聯網信息服務算法推薦活動、汽車數據安全管理等技術發展的新興領域加速出臺相關立法,為保障數字經濟高質量發展、提升我國數字治理能力提供了法治保障。

                針對深度合成技術帶來的顛覆性風險挑戰,多個國家和地區不斷探索深度合成服務的治理路徑。美國從聯邦和州層面推出立法提案,歐盟將深度合成涉及的個人數據保護問題納入《通用數據保護條例》(GDPR)的規制框架,德國、英國、新加坡、韓國等國將深度合成相關犯罪納入刑法范疇,但尚未有國家出臺規范深度合成服務的專門立法?!兑幎ā妨⒆阄覈l展實踐,充分發揮法治固根本、穩預期、利長遠的保障作用,率先通過體系化制度安排,構建深度合成服務治理機制,塑造科技向善的治理理念,提供了保護與發展并行的中國方案。(作者:王志勤,中國信息通信研究院副院長

                關閉

                中共中央網絡安全和信息化委員會辦公室
                中華人民共和國國家互聯網信息辦公室 © 版權所有
                承辦:國家互聯網應急中心
                技術支持:長安通信科技有限責任公司
                京ICP備14042428號

                Produced By CMS 網站群內容管理系統 publishdate:2022/12/13 14:26:09
                国产精品国产精品一区精品国产自在现偷99精品国产在热2019国产拍偷精品网国产精品视频全国免费观看,国产精品v欧美精品v日韩精品青青精品视频国产久久国产精品久久精品国产亚洲精品国产精品国产欧美精品一区二区三区,国产精品第一页国产亚洲精品国产福利国产精品自拍国产精品视频在线观看亚洲国产精品一区二区久久国产精品国产三级国产专不,国产精品视频大陆精大陆国产国语精品2019精品国产品对白在线512年香蕉精品国产高清自在自线隔壁老王国产在线精品在线观看精品国产福利片,国产三级精品三级在专区精品国产自在现偷国产精品一区二区三区国产日韩精品欧美一区喷水亚洲精品国产精品国自产国产在线精品一区二区不卡