【法治護(hù)我心——《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》系列解讀】

光明網(wǎng)記者 穆子葉 雷渺鑫

作為人工智能領(lǐng)域的新應(yīng)用，深度合成技術(shù)以深度學(xué)習(xí)、虛擬現(xiàn)實(shí)為代表的生成合成類算法制作文本、圖像及音視頻，因較強(qiáng)娛樂(lè)性在社交媒體平臺(tái)廣受關(guān)注。近日，我國(guó)第一部針對(duì)深度合成服務(wù)治理的專門性部門規(guī)章——《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對(duì)外發(fā)布，以進(jìn)一步加強(qiáng)互聯(lián)網(wǎng)信息服務(wù)深度合成管理，保護(hù)公民、法人和其他組織的合法權(quán)益，維護(hù)國(guó)家安全和社會(huì)公共利益?！兑?guī)定》于2023年1月10日起施行。

當(dāng)前，世界各國(guó)對(duì)于“深度合成”技術(shù)的規(guī)定有何進(jìn)展？讓我們一探究竟。

游客在上海外灘觀光隧道的未來(lái)藝術(shù)館的畫作前體驗(yàn)人工智能的換臉技術(shù)。

圖源：人民網(wǎng)

技術(shù)走向“平民化”，應(yīng)用場(chǎng)景日益多元

深度合成技術(shù)是指基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場(chǎng)景等信息的技術(shù)。通過(guò)對(duì)網(wǎng)絡(luò)內(nèi)容進(jìn)行處理，使其實(shí)現(xiàn)從原初形態(tài)到目標(biāo)形態(tài)的轉(zhuǎn)變。在實(shí)際應(yīng)用中，深度合成技術(shù)可以完成聲音復(fù)刻、文本生成、微表情操縱等。最為人熟知的便是人臉合成，或稱“AI換臉”。

圖像修飾和篡改技術(shù)早已有之，如PS技術(shù)。但深度合成技術(shù)可以做到高度真實(shí)的改頭換面，甚至是人體姿態(tài)的全身合成。德國(guó)的科學(xué)家曾用1000段“換臉”視頻進(jìn)行鑒別實(shí)驗(yàn)。實(shí)驗(yàn)表明，普通人若無(wú)特殊的標(biāo)記訓(xùn)練，根本無(wú)法辨別人臉真?zhèn)巍?/p>

當(dāng)前，深度合成技術(shù)的應(yīng)用場(chǎng)景“多點(diǎn)開花”。只需要上傳一張照片，就可以生成古風(fēng)、民族風(fēng)、現(xiàn)代風(fēng)等風(fēng)格的人臉特效視頻。相比以往，AI換臉的制作門檻和成本都大為降低。越來(lái)越多的人可以體會(huì)到虛擬化身、數(shù)字分身的樂(lè)趣，并通過(guò)社交媒體享受超越現(xiàn)實(shí)的個(gè)性化體驗(yàn)，實(shí)現(xiàn)了技術(shù)的“平民化”。

然而，與其他技術(shù)一樣，深度合成也會(huì)被人為誤用和濫用。比如，制造虛假視頻、虛假音頻進(jìn)行無(wú)限、誹謗、詐騙、勒索等違法行為。深度學(xué)習(xí)算法的成型，以及多數(shù)算法代碼的開源，都使換臉軟件的開發(fā)變得簡(jiǎn)易，可以近乎零成本地在世界范圍內(nèi)擴(kuò)散。公眾人物的圖像、視頻、音頻資料極易通過(guò)網(wǎng)絡(luò)獲取，也成為了二度“創(chuàng)作”的首選，“阿湯哥表演硬幣魔術(shù)”等深度合成視頻都曾火爆“出圈”。深度偽造內(nèi)容數(shù)量不斷增多、危害性不斷增強(qiáng)，甚至造成個(gè)人名譽(yù)、財(cái)產(chǎn)、精神損害，公司名譽(yù)、財(cái)產(chǎn)損失以及社會(huì)國(guó)家安全風(fēng)險(xiǎn)。

機(jī)遇與挑戰(zhàn)并存，各國(guó)開啟探索之路

針對(duì)這些技術(shù)帶來(lái)的顛覆性風(fēng)險(xiǎn)挑戰(zhàn)，世界各國(guó)紛紛出臺(tái)法律，不斷探索深度合成的治理路徑，方案?jìng)?cè)重各有不同。

●美國(guó)從聯(lián)邦和州兩個(gè)層面進(jìn)行專門立法。

當(dāng)前，美國(guó)聯(lián)邦層面雖然還沒(méi)有生效的專門立法，但參眾兩院先后提出了側(cè)重點(diǎn)各異的四部法案，即《深度偽造責(zé)任法案》《2018惡意深度偽造禁止法案》《2019年深度偽造法案》和《2020財(cái)年情報(bào)授權(quán)法案》。在地方層面，各州對(duì)于“深度偽造”技術(shù)的法律規(guī)制較為積極，目前已有正式生效的法律。

總體而言，美國(guó)的相關(guān)立法強(qiáng)調(diào)“深度合成”技術(shù)的虛假性。在提及虛假信息危害性的治理時(shí)，要求先由市場(chǎng)主體預(yù)防，社交平臺(tái)和視頻平臺(tái)自我規(guī)制，而后采用聯(lián)邦和地方立法強(qiáng)制性規(guī)制，形成自下而上的治理模式。

●歐盟將“深度合成”納入《通用數(shù)據(jù)保護(hù)條例（GDPR）》等現(xiàn)有法律框架規(guī)制，致力于保護(hù)歐盟所有網(wǎng)絡(luò)用戶的數(shù)據(jù)隱私權(quán)利，明確提升了企業(yè)的數(shù)據(jù)保護(hù)責(zé)任，并顯著完善了有關(guān)監(jiān)管機(jī)制。

現(xiàn)階段，歐盟對(duì)于“深度合成”技術(shù)尚未專門立法，但已有法律將該技術(shù)囊括其中。比如，《一般數(shù)據(jù)保護(hù)條例》為“深度合成”技術(shù)對(duì)個(gè)人生物識(shí)別信息的濫用創(chuàng)設(shè)了嚴(yán)格的法律限制；2019年歐盟執(zhí)行委員會(huì)人工智能高級(jí)專家工作小組提出了《可信賴人工智能倫理指引》，包括人工智能領(lǐng)域的“數(shù)據(jù)管理”“算法開發(fā)”以及“商業(yè)運(yùn)用”，對(duì)“深度合成”技術(shù)的使用提出了嚴(yán)格的程序和實(shí)體要求。

總體而言，歐盟將“深度合成”技術(shù)分解為個(gè)人生物識(shí)別信息和算法技術(shù)，以個(gè)人信息保護(hù)和人工智能倫理指引為出發(fā)點(diǎn)，采用個(gè)人數(shù)據(jù)治理和算法規(guī)制的模式。

●德國(guó)、新加坡、英國(guó)、韓國(guó)等國(guó)家，則選擇將“深度合成”相關(guān)犯罪納入刑法范疇，尚未出臺(tái)國(guó)家層面的專門立法。

●我國(guó)頒布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》闡釋了制定目的依據(jù)、適用范圍、部門職責(zé)以及導(dǎo)向要求。明確了深度合成服務(wù)的一般規(guī)定，數(shù)據(jù)和技術(shù)管理規(guī)范，監(jiān)督檢查與法律責(zé)任以及相關(guān)用語(yǔ)的含義。將中國(guó)語(yǔ)境下的深度合成服務(wù)做了全流程梳理。

提出內(nèi)容包括：深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識(shí)別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意；深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息等。