本文來自微信公眾號(hào)：全現(xiàn)在（ID：quanxianzaiAPP）

全世界有76億人口，但是在“查無此人”的網(wǎng)站上，你能看到的遠(yuǎn)不止這個(gè)數(shù)字。

這個(gè)網(wǎng)站的地址全拼是ThisPersonDoesNotExist.com，網(wǎng)頁里并無其它信息，只有一張人臉。

每刷新一次，就會(huì)有一張新的臉出現(xiàn)，發(fā)色發(fā)型、膚色臉型、瞳孔的顏色和皺紋全是新的，每一張照片似乎都暗示背后存在一個(gè)真人?？扇缇W(wǎng)址所言，“查無此人”。

網(wǎng)站是優(yōu)步的軟件工程師菲利普·王（Philip Wang）所搭建，背后是最近幾年炙手可熱的生成式對(duì)抗網(wǎng)絡(luò)（GANs）。

GANs的神奇之處，在于它同時(shí)擁有一對(duì)圖片偽造者和甄別者，一個(gè)負(fù)責(zé)生成盡可能逼真的圖像，另一個(gè)負(fù)責(zé)判別生成的圖片與原始真實(shí)圖像的區(qū)別，然后將結(jié)果反饋給圖片生成者。

在二者的競爭里，圖片不斷重新生成、判定、修改，直到真假難辨。

臉書的首席AI科學(xué)家嚴(yán)·勒存（Yann LeCun）稱，GANs是過去20年里深度學(xué)習(xí)領(lǐng)域最酷的想法，而百度前首席科學(xué)家安德魯·吳（Andrew Ng）說，這是“重大而根本性的進(jìn)步”。

學(xué)者們說，當(dāng)未來的技術(shù)歷史學(xué)家回首往事，可能會(huì)認(rèn)為GANs是通往類人工智能之路上的重要一步。

但在科技發(fā)展之前，這項(xiàng)技術(shù)已經(jīng)走向了另一個(gè)令人擔(dān)憂的方向。在過去的兩年間，不停有媒體曝出，這些圖片被附加一系列身份信息，偽裝成媒體或者社交平臺(tái)上的用戶，發(fā)布信息、影響輿論。

在臉書上搜索阿方索·馬西亞斯，能找到不少于500個(gè)搜索結(jié)果，這些同名的男性遍布西班牙、墨西哥、哥倫比亞、委內(nèi)瑞拉等西語國家。

搜索者或許無法注意到其中那個(gè)中年的阿方索，他的面容并不顯眼，嘴邊一圈胡子，頭頂是稀疏的黃褐色頭發(fā)，微笑著露出幾顆牙齒。

他是親特朗普的媒體The BL（美麗人生）某個(gè)臉書興趣小組的管理員，有時(shí)會(huì)點(diǎn)擊鏈接，為網(wǎng)站帶來流量。

但如果仔細(xì)看他的頭像，專業(yè)人士會(huì)發(fā)現(xiàn)一些端倪——眼鏡框并不左右對(duì)稱，而且在右耳邊有一處詭異的扭曲，而他背后的風(fēng)景則更加模糊，似乎是建筑，但顏色與線條都難以辨認(rèn)。

社交媒體情報(bào)集團(tuán)Graphika和大西洋理事會(huì)數(shù)字取證研究實(shí)驗(yàn)室為這個(gè)用戶身份出具報(bào)告，他們認(rèn)為，這個(gè)人的圖像資料是偽造的。

而與阿方索并肩作戰(zhàn)的幾十個(gè)假賬戶被用來運(yùn)營幾十個(gè)支持特朗普的臉書群組，名稱包括“美國需要特朗普總統(tǒng)”和“我們與特朗普和彭斯站在一起”。

這個(gè)問題從2018年6月開始發(fā)酵，當(dāng)時(shí)美聯(lián)社在領(lǐng)英上發(fā)現(xiàn)了一個(gè)偽裝成智庫員工的賬戶。

而2019年12月，Graphika和大西洋理事會(huì)的數(shù)字取證研究實(shí)驗(yàn)室發(fā)布了一份關(guān)于一個(gè)由900多個(gè)頁面、小組和賬戶組成的網(wǎng)絡(luò)的報(bào)告，這些頁面、組和賬戶與某右翼新聞機(jī)構(gòu)有關(guān)。

“他們利用這些假面孔來增強(qiáng)影響力，并向更多的受眾傳遞他們的信息，”實(shí)驗(yàn)室工作人員說。

上述主頁被發(fā)現(xiàn)后，都被臉書封禁，但由假面孔生成的假新聞不會(huì)只出現(xiàn)在臉書平臺(tái)上。

深度造假檢測平臺(tái)Sensity的首席執(zhí)行官喬治·帕特里尼（Giorgio Patrini）表示，GAN生成的面孔也出現(xiàn)在企業(yè)界。

截至目前，他們發(fā)現(xiàn)了一家軟件公司使用假面孔假扮用戶推薦產(chǎn)品，一家營銷公司使用該技術(shù)生成其“團(tuán)隊(duì)”的照片。

在今年7月，路透社報(bào)道了一位偽造得更為精致的AI記者。

他叫奧利弗·泰勒（Oliver Taylor），稱自己畢業(yè)于伯明翰大學(xué)，是個(gè)咖啡愛好者和政治迷，在一個(gè)傳統(tǒng)的猶太家庭長大。

他的六篇自由撰稿的社論和博客文章表明他對(duì)反猶太主義有著濃厚的興趣，在《耶路撒冷郵報(bào)》和《以色列時(shí)報(bào)》上都有署名。

至于他提供給報(bào)社的照片，牙齒上有明顯的重影，照片背景也有失真——這是多個(gè)圖像重合時(shí)留下的痕跡。

路透社無從得知這位假記者的真實(shí)身份，但假記者的言論卻在產(chǎn)生真實(shí)的影響——他稱一位巴勒斯坦權(quán)利運(yùn)動(dòng)家“同情恐怖分子”，這個(gè)指控令后者感到十分不安，隨后他向兩家報(bào)紙?zhí)岢隹棺h，只有《以色列時(shí)報(bào)》刪除了文章。

在過去的一年里，圖像偽造技術(shù)已經(jīng)拓展向視頻，大西洋理事會(huì)數(shù)字取證研究實(shí)驗(yàn)室的研究者利茲圖（Rizzuto）指出，去年三星公司進(jìn)行的深度偽造研究將蒙娜麗莎變成了一個(gè)逼真的會(huì)說話的頭。

他說，這項(xiàng)技術(shù)有朝一日可以應(yīng)用于創(chuàng)造更逼真的假檔案，創(chuàng)造出各種角度和表情的照片。

去年，當(dāng)人工智能創(chuàng)造的假臉和假人開始在社交網(wǎng)絡(luò)上遍地開花時(shí)，事實(shí)核查組織已經(jīng)開始介入。

事實(shí)核查組織Snopes和Lead Stories持續(xù)地報(bào)道類似的問題，Snopes還發(fā)布一篇報(bào)道，批評(píng)臉書的不作為。

對(duì)抗的第一步是發(fā)現(xiàn)。在這些假臉里往往存在類似的問題，大西洋理事會(huì)數(shù)字取證研究實(shí)驗(yàn)室的研究者利茲圖（Rizzuto）說，盡管GANs技術(shù)取得了顯著的進(jìn)展，但仍有一些蛛絲馬跡。

例如，受試者的頭部可能是傾斜的，而鼻子和牙齒仍然是直的，該算法在納入背景物體和其他人時(shí)也會(huì)很吃力，有時(shí)會(huì)無意中創(chuàng)造出扭曲或模糊的眼鏡。

還有專家指出，GANs生成的人臉里，眼睛都會(huì)出現(xiàn)在圖像內(nèi)的同一個(gè)地方——無論“人”面向哪個(gè)方向。

而達(dá)特茅斯學(xué)院研究數(shù)字取證學(xué)的漢尼·法里德（Hany Farid）正在研究更好的方法來發(fā)現(xiàn)假視頻，比如檢測吸氣和呼氣引起的臉部顏色的輕微變化，而GANs很難精確模仿。

但未來似乎并不樂觀。

利茲圖說，AI潛在的欺騙能力已經(jīng)超過了要識(shí)破它所需的工作量，而法里德的擔(dān)憂則更為長遠(yuǎn)——GANs的技術(shù)本身，就包含著發(fā)現(xiàn)自己的弱點(diǎn)、進(jìn)行提升的功能，這意味著人類的識(shí)別工作或許不過是在幫助GANs完成它自己的工作。

“我們從根本上來說處于弱勢地位，”法里德說。

本文來自微信公眾號(hào)：全現(xiàn)在（ID：quanxianzaiAPP）