原標(biāo)題：“螞蟻呀嘿”被下架，AI換臉技術(shù)存在哪些風(fēng)險隱患？

來源：新華日報

原標(biāo)題：換臉特效火爆全網(wǎng)秒被下架

AI換臉技術(shù)，有“侵犯隱私”之嫌？

前不久，社交媒體平臺上一款名為“螞蟻呀嘿”的特效火爆全網(wǎng)，許多網(wǎng)友都將自己的照片導(dǎo)入換臉軟件Avatarify中，照片便可以被算法驅(qū)動，生成一段表情夸張扭曲且跟著節(jié)奏晃動的換臉短視頻。短短幾天后，正如此前火爆一時的換臉軟件ZAO一樣，Avatarify被下架，許多人猜測下架原因是AI換臉可能涉及隱私問題。AI換臉技術(shù)的原理是什么？換臉是否會造成個人隱私泄露？帶著網(wǎng)友的提問，《科技周刊》記者專訪東南大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副教授宋宇波，為我們揭開AI換臉技術(shù)的秘密。

問：AI換臉技術(shù)背后的原理是什么？

宋宇波：最早實現(xiàn)換臉是通過修圖(Photoshop)的方式實現(xiàn)的，不僅耗時耗力，其換臉效果也不佳。而目前比較流行的換臉軟件，實際上是運用了生成式對抗網(wǎng)絡(luò)（GAN）技術(shù)，這是深度學(xué)習(xí)模型中的一種。簡單來說，就是機(jī)器通過事先采集大數(shù)據(jù)中的人臉表情特征，再結(jié)合換臉人本身的一些特征信息，通過“對抗博弈”的方式不斷進(jìn)化，最終生成我們所希望得到的換臉視頻。這種方式不僅可以快速地實現(xiàn)自動換臉，其生成的圖像也更逼真。

問：什么是生成式對抗網(wǎng)絡(luò)？

宋宇波：盡管生成式對抗網(wǎng)絡(luò)中包含“網(wǎng)絡(luò)”一詞，但它和我們通常所說的“互聯(lián)網(wǎng)”并不是一回事，它本質(zhì)上是一個數(shù)學(xué)算法。由于生成式對抗網(wǎng)絡(luò)采用的是深度學(xué)習(xí)中的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法，故而保留了“網(wǎng)絡(luò)”兩個字。

生成式對抗網(wǎng)絡(luò)框架通過讓兩個神經(jīng)網(wǎng)絡(luò)相互博弈的方式進(jìn)行學(xué)習(xí)，其中一個是生成器，另一個是判別器。生成器根據(jù)預(yù)置的規(guī)則嘗試生成數(shù)據(jù)，而判別器則會去判別是否是真實數(shù)據(jù)，并把判別結(jié)果反饋給生成器，生成器會根據(jù)反饋信息進(jìn)行調(diào)整，從而輸出新的數(shù)據(jù)，兩者反復(fù)博弈直到判別器將生成器生成的數(shù)據(jù)判別為真實數(shù)據(jù)為止。例如當(dāng)我們想生成一個笑臉時，判別器會自動識別生成器隨機(jī)生成的表情是否為笑臉；如果不是，此信息會被駁回，生成器會根據(jù)反饋重新調(diào)整生成數(shù)據(jù)，經(jīng)過層層判別，最終輸出的人臉里既會包含換臉人本身的特征，同時也包含我們所期望的笑臉表情。

值得注意的是，機(jī)器前期采集的喜怒哀樂等通用表情信息主要來源于大數(shù)據(jù)圖庫，而并非換臉人的個人表情信息。這也就意味著，利用對抗生成網(wǎng)絡(luò)技術(shù)實現(xiàn)的換臉僅需要不多的個人人臉照片即可。該換臉技術(shù)誕生最初大概需要300-500張換臉人的圖片，而隨著近年技術(shù)的不斷改進(jìn)，現(xiàn)在僅僅需要3-5張相關(guān)照片就可以生成需要的換臉照片或者視頻。

在機(jī)器學(xué)習(xí)中，生成式對抗網(wǎng)絡(luò)的應(yīng)用非常多，其最主要的用途就是生成我們想要的數(shù)據(jù)。目前大部分應(yīng)用集中于視頻和圖像創(chuàng)造，例如我們在拍攝中需要一些動畫或者特定場景，原本可能需要制作道具或者耗費人工進(jìn)行手繪，而現(xiàn)在利用這一技術(shù)，則可以變得非常高效。

問：AI換臉是否存在個人隱私泄露風(fēng)險？偽視頻、偽圖片能攻破人臉識別系統(tǒng)嗎？

宋宇波：任何一種技術(shù)都存在兩面性，如果單純是為了搞笑消遣而制作換臉視頻，本身并沒有太多的危害，但如果這一技術(shù)被不法分子利用，則會產(chǎn)生極大危害。信息被濫用、個人生物識別特征被泄露等風(fēng)險，是這類軟件頻繁引發(fā)質(zhì)疑的一個重要原因。對于個人來說，目前許多金融場所都依賴于視頻線上識別來進(jìn)行身份核實，如果不法分子運用深度合成中的表情操縱方法生成偽視頻，則很可能造成個人金錢損失。

2019年11月底，國家網(wǎng)信辦、文旅部和國家廣電總局等三個部門聯(lián)合發(fā)布的《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》指出，利用基于深度學(xué)習(xí)、虛擬現(xiàn)實等新技術(shù)新應(yīng)用制作、發(fā)布、傳播非真實音視頻信息的，應(yīng)當(dāng)以顯著方式予以標(biāo)識；不得利用相關(guān)的音視頻技術(shù)“侵害他人名譽權(quán)、肖像權(quán)、隱私權(quán)、知識產(chǎn)權(quán)和其他合法權(quán)益”。由此可見，個人信息安全問題已經(jīng)引起相關(guān)部門重視。盡管此類軟件大多聲明不會采集和存儲用戶敏感個人信息，但網(wǎng)友在上傳個人照片給第三方后，第三方自身平臺的防護(hù)系統(tǒng)是否安全？是否會被惡意攻破從而造成隱私泄露？這些方面都應(yīng)該得到更多關(guān)注。

就目前而言，通過App下載的換臉圖片或者視頻，由于計算量有限，其圖像質(zhì)量還比較差，仔細(xì)觀察后還是存在面部不自然等問題。而那些圖像質(zhì)量高到可以欺騙人眼的換臉圖片和視頻，在相關(guān)檢測算法的判別下通常也都會“原形畢露”，因此，普通用戶不必過于擔(dān)心人臉識別系統(tǒng)會被攻破。但隨著技術(shù)的不斷改進(jìn)，未來這類軟件很可能對我們的個人隱私造成較大威脅，因此我們也呼吁相關(guān)法規(guī)盡快出臺。（記者 謝詩涵）

[責(zé)任編輯：楊凡、崔中連]

想爆料？請登錄《陽光連線》（ https://minsheng.iqilu.com/）、撥打新聞熱線0531-66661234或96678，或登錄齊魯網(wǎng)官方微博（@齊魯網(wǎng)）提供新聞線索。齊魯網(wǎng)廣告熱線0531-81695052，誠邀合作伙伴。