國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部近日聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡(jiǎn)稱(chēng)《規(guī)定》），強(qiáng)調(diào)不得利用深度合成服務(wù)從事法律、行政法規(guī)禁止的活動(dòng)，要求深度合成服務(wù)提供者落實(shí)信息安全主體責(zé)任，《規(guī)定》將于2023年1月10日起施行。

深度合成技術(shù)，是指利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類(lèi)算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等信息的技術(shù)。具體到應(yīng)用層面，視頻換臉、語(yǔ)音合成、影像修復(fù)、虛擬數(shù)字人等越來(lái)越多地出現(xiàn)在社交娛樂(lè)、影視制作、廣告營(yíng)銷(xiāo)等領(lǐng)域，商業(yè)使用場(chǎng)景愈發(fā)多元化，給用戶(hù)和受眾帶來(lái)新奇有趣的觀感體驗(yàn)。

但也要看到，深度合成技術(shù)是一柄雙刃劍。深度合成過(guò)于“逼真”使交互變得虛實(shí)難辨，耳聽(tīng)或眼見(jiàn)未必為實(shí)，滋生出一系列安全隱患。比如，不法分子利用有關(guān)技術(shù)，制作、復(fù)制、發(fā)布、傳播違法和不良信息；詆毀、貶損他人名譽(yù)、榮譽(yù)；偽造音頻、視頻搞變聲、變臉，實(shí)施新型詐騙……嚴(yán)重?fù)p害人民群眾合法權(quán)益，嚴(yán)重威脅社會(huì)信息安全，這一切已引起有關(guān)部門(mén)的高度重視。

《規(guī)定》的出臺(tái)，正是為了加強(qiáng)針對(duì)互聯(lián)網(wǎng)信息服務(wù)深度合成的管理，統(tǒng)籌協(xié)調(diào)相關(guān)監(jiān)管工作，確保相關(guān)技術(shù)與應(yīng)用納入規(guī)范化、法治化軌道，維護(hù)國(guó)家安全和社會(huì)公共利益。

壓實(shí)并強(qiáng)化深度合成服務(wù)提供者的信息安全主體責(zé)任，勢(shì)在必行。《規(guī)定》要求，深度合成服務(wù)提供者建立健全包括算法機(jī)制機(jī)理審核、科技倫理審查等管理制度，以及具有安全可控的技術(shù)保障措施。從源頭上控制，從制度上保障，是確保深度合成技術(shù)合理安全應(yīng)用的前提。在此基礎(chǔ)上，制定公開(kāi)管理規(guī)則、平臺(tái)公約，完善服務(wù)協(xié)議，則是依法依約履行管理責(zé)任，約束使用者承擔(dān)信息安全義務(wù)，防止別有用心者“胡作非為”。依法對(duì)深度合成服務(wù)使用者進(jìn)行真實(shí)身份信息認(rèn)證，建立健全辟謠機(jī)制和申訴、投訴、舉報(bào)機(jī)制等，更使管理與規(guī)范系統(tǒng)化、精細(xì)化。

特別要指出的是，對(duì)于可能導(dǎo)致公眾混淆或者誤認(rèn)的，深度合成服務(wù)提供者應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)。這一規(guī)定十分重要，顯著標(biāo)識(shí)能夠起到“以正視聽(tīng)”的作用。簡(jiǎn)言之，深度合成技術(shù)作為現(xiàn)代科技文明的產(chǎn)物，必須被置于以技術(shù)倫理規(guī)制、以法治文明治理的框架內(nèi)。

行政監(jiān)督與司法亮劍，同樣必不可少。《規(guī)定》明確，網(wǎng)信部門(mén)和電信主管部門(mén)、公安部門(mén)依據(jù)職責(zé)對(duì)深度合成服務(wù)開(kāi)展監(jiān)督檢查，發(fā)現(xiàn)較大信息安全風(fēng)險(xiǎn)的，應(yīng)當(dāng)依法要求整改，消除隱患。深度合成服務(wù)提供者違反《規(guī)定》，造成嚴(yán)重后果的，依法從重處罰。構(gòu)成犯罪的，依法追究刑事責(zé)任。法有禁止不可為，任何單位或個(gè)人妄圖利用深度合成技術(shù)“為非作歹”，必將自食苦果。

網(wǎng)絡(luò)空間天朗氣清，符合人民利益。規(guī)范和引導(dǎo)依法、合理、有效使用深度合成技術(shù)，是防范化解安全風(fēng)險(xiǎn)的必然要求，是促進(jìn)深度合成服務(wù)健康發(fā)展的必然選擇，更是維護(hù)清朗的網(wǎng)絡(luò)生態(tài)的必然條件。

分享讓更多人看到