<output id="tbhtp"><address id="tbhtp"><ruby id="tbhtp"></ruby></address></output>

          <ins id="tbhtp"></ins>

            <ins id="tbhtp"></ins>

                正文

                專家解讀|加速推進深度合成服務規范化

                2022年12月12日 15:30 來源: 中國網信網

                隨著人工智能和大數據技術的飛速發展,深度合成技術在互聯網信息服務中得到廣泛應用。這些技術在為用戶提供個性化、精準化、智能化信息服務的同時,如非法應用也容易引發侵害用戶合法權益、傳播違法信息、操縱社會輿論等一系列問題,給國家利益、社會公共利益和公民合法權益帶來巨大挑戰。11月25日,國家網信辦會同工信部、公安部發布《互聯網信息服務深度合成管理規定》(下文簡稱《規定》),以貫徹落實《網絡安全法》《數據安全法》《個人信息保護法》和《互聯網信息服務管理辦法》等法律、行政法規有關規定?!兑幎ā肥俏覈谝徊酷槍ι疃群铣煞罩卫淼膶iT性部門規章,對規范深度合成服務、促進相關應用健康發展具有重要時代意義。

                一、深度合成成為重要技術應用

                深度合成技術,是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、視頻、音頻、虛擬場景等網絡信息的技術。深度合成技術最大的特點之一是“以假亂真”,其通過人工智能和大數據算法合成的虛擬數據具有極佳的視覺、聽覺等效果,能夠使人難辨真假。深度合成技術的代表性研究是在2014年提出的生成對抗網絡(GAN),其通過對抗式迭代訓練生成器和判別器兩個部分,大幅提升數據生成的逼真程度,使得深度合成的結果難以被人眼辨別真偽。伴隨著日益增長的應用需求,深度合成技術在教育、影視、傳媒等領域扮演著愈發重要的角色,其面部替換、表情操縱、語音合成等不同技術分支,能夠升級傳統內容制作方法,改善制作效果,提高制作效率,在各類商業化產品中使用比例顯著提升。

                二、深度合成技術非法使用帶來嚴重安全風險

                深度合成技術在支持正向應用的同時,也為我們帶來新的安全風險。隨著深度合成技術的快速發展,其使用門檻愈發降低,呈現出“平民化”的趨勢。普通人可以利用簡單方便的軟件或工具,制作出真假難辨的合成內容。若非法使用深度合成技術,將導致傳播違法和不良信息的亂象,對社會信任、媒體信任、政治信任造成沖擊。例如,不法分子通過制作虛假的視頻、圖像、音頻等,進行誹謗、詐騙、勒索、誣陷,甚至通過從互聯網獲得明星、高管、學者、政要的視頻、圖像、音頻數據,利用深度合成技術對其進行惡意攻擊。誤用、濫用以及惡意使用深度合成技術生成的數據,將為個人、企業帶來聲譽損害和財產損失,甚至對國家安全、社會穩定造成威脅。因此,《規定》聚焦深度合成服務亂象問題,構建算法安全治理體系,規范互聯網信息服務深度合成管理,意義重大,影響深遠。

                三、正確處理服務管理規范與技術研究發展的關系

                深度合成技術研究應在安全可靠的基礎上推進,在規范中科學發展。深度合成技術已展現其強大的能力,在各個領域的加速應用已成為趨勢。然而,在相關技術研究發展的同時,也須直面技術帶來的風險,保證算法和數據的安全性、可靠性,最大程度做到技術進步的趨利避害?!兑幎ā吩诒Wo深度合成技術良性發展的基礎上,明確了生成合成類算法治理的對象,確立了算法治理的基本原則,并鼓勵相關行業組織加強行業自律,建立健全行業標準、行業準則和自律管理制度,強化了深度合成服務提供者和技術支持者的主體責任,為安全可靠的深度合成技術發展指明了方向,并為技術的服務應用提供指引和規范。

                四、深度合成的安全性、可靠性保障對技術治理提出新要求

                《規定》在規范互聯網信息服務深度合成管理的同時,也為相關安全性、可靠性保障提出了新的技術治理要求。一方面,深度合成服務提供者應加強深度合成內容管理,建立健全用于識別違法和不良信息的特征庫,在非人工審核情形下,則應對使用者的輸入數據和合成成果進行精準有效的技術審核,進而對違法和不良信息依法采取處置措施。另一方面,深度合成服務提供者對使用其服務生成或者編輯的信息內容,應當采取技術措施添加不影響用戶使用的標識。這要求服務提供者開發新的技術,在不影響用戶使用的前提下,在視頻、圖像、音頻、虛擬場景等深度合成信息上合理添加顯著標識。此外,由于數據傳輸過程中,可能會出現如視頻幀率降低、圖像壓縮等常見處理,所添加標識還須具備強魯棒性,避免在傳輸過程的正常處理中受到破壞。

                綜上,《規定》的頒布標志著我國深度合成服務的規范管理工作進入新階段。深度合成服務提供者和技術支持者應認真學習和理解《規定》,明確主體權責,積極應對深度合成安全性、可靠性技術要求。深度合成服務使用者也應加強算法應用的安全意識,保證使用的合規合法性,有效維護自身的合法權益。(作者:周杰,清華大學研究生院院長

                關閉

                中共中央網絡安全和信息化委員會辦公室
                中華人民共和國國家互聯網信息辦公室 © 版權所有
                承辦:國家互聯網應急中心
                技術支持:長安通信科技有限責任公司
                京ICP備14042428號

                Produced By CMS 網站群內容管理系統 publishdate:2022/12/13 14:26:09
                国产精品国产精品一区精品国产自在现偷99精品国产在热2019国产拍偷精品网国产精品视频全国免费观看,国产精品v欧美精品v日韩精品青青精品视频国产久久国产精品久久精品国产亚洲精品国产精品国产欧美精品一区二区三区,国产精品第一页国产亚洲精品国产福利国产精品自拍国产精品视频在线观看亚洲国产精品一区二区久久国产精品国产三级国产专不,国产精品视频大陆精大陆国产国语精品2019精品国产品对白在线512年香蕉精品国产高清自在自线隔壁老王国产在线精品在线观看精品国产福利片,国产三级精品三级在专区精品国产自在现偷国产精品一区二区三区国产日韩精品欧美一区喷水亚洲精品国产精品国自产国产在线精品一区二区不卡