真假莫辨?你能分辨得出哪一個是真人嗎?

 
 

在古時候,西遊記中六耳獼猴假扮孫悟空難辨真假,把唐僧一行人騙得團團轉,後來多虧是佛祖出手才得以識破,而到了現在,這樣的事情也正在你我的生活中上演著,前段時間ThisPersonDoesNotExist.com 出現在各大論壇,網站內會隨機出現一張照片,但其實這張看似維妙維肖的人其實是不存在的,它僅僅是機器人透過模擬的方式繪製的圖片,但照片的擬真度卻高得嚇人。

這些圖片都是利用GAN(詳細請看此)生成的,所謂的GAN就是生成對抗網絡(Generative Adversarial Network),是非監督式學習的一種方法,通過讓兩個網路相互博弈的方式進行學習,兩個網絡相互對抗、不斷調整參數,最終目的是使判別網絡無法判斷生成網絡的輸出結果是否真實。GAN系統的運作分成兩個區塊,其一自然就是繪圖,它在繪圖前就已經在網路上蒐集了大量的照片作為資料庫進行參考,並且系統自主學習了它「認為」足以構成人類的要素,將之繪製成照片,接下來就會到第二區塊進行檢視,讓它畫出來的圖「近乎完美」。

第二區塊負責的則是一個自主的「檢察系統」,它會自動將這張生成的圖片與海量的照片做出對比,看是不是能幾可亂真,若系統判斷不行,就會把它退回第一區塊進行修改或重製,嚴謹程度就好像是當你數學題算式寫的不完整時就不讓你離開教室的老師一樣。

透過這樣的方式,對於模擬人類這項技術已經日漸成熟,最近比較知名的尚有名人人偶模擬器跳舞模擬等等的作品。

 

GAN所帶來的隱憂

對此,兩位在華盛頓大學研究「資訊是如何透過社群傳遞」的學者Jevin West 以及 Carl Bergstrom認為這樣的虛擬照片會對我們現在的社會造成威脅,為了「教育」一般人如何分辨出正確的資訊,他們創造了另一個網站Which face is real,在這裡會給你兩張照片,分別是一張真人以及一張由AI繪製而成的假人,讓人們練習判斷真偽。

「當一個新科技到來後,最危險的時期便是當群眾尚未察覺之時,那也正是它將對社會造成最大影響的時候。」Bergstrom如此說道。


West也表示「所以我們嘗試著教育大眾,讓人們意識到"新科技"就在那兒,就在我們身邊。就好像現在人們都知道看到的照片可能是修過的。」確實這樣的科技如果被惡意人士運用將會十分的糟糕,如果在一陣恐怖攻擊過後,恐怖份子主動在網路上釋出犯案者資料,但資料中的卻是個"不存在"的人,那這對官方要緝捕犯人的難度將會提升好幾個層次,他們甚至可以利用AI模擬的人像錄製犯罪宣言,而他們的特徵卻無從被掌握。

拿近期的一個比較引起疑慮的例子來看看吧,日前BBC報導後便一夕知名的「虛擬名人」事件,他們透過AI模擬名人,並且搭配變音器,成功地讓名人說出了「充滿危機的話」,另如美國知名演員喬登·皮爾就讓歐巴馬說出了: 「川普總統完全就是個笨蛋。(Prestent Trump is a total and complete dipshit.)」。 我認為科技會越來越進步,總有一天模擬技術將會進步到真的難辨真假,到時候想必各種假資訊、假影片也會湧入社群媒體,對此我認為我們必須學會對資訊來源的判斷與多方調查,只有「讓自己變得精明」才是在面對謊言時不被欺騙的解決之道。

一個科技的誕生往往伴隨著正反兩面的因素,對於這科技的誕生,不知道各位又有什麼樣的想法呢?一起分享來討論看看吧!

Author: Ian Wu