這一發(fā)現(xiàn)可為打擊虛假信息開拓新的研究方向
悉尼2022年7月14日 /美通社/ -- 近期，悉尼大學(xué)的一項(xiàng)研究表明，雖然觀察者無法有意識地識別"真假臉"之間的差異，但他們的大腦可以。
在興起的"換臉術(shù)"（deepfakes）黑科技使用中，如何區(qū)分真實(shí)的人臉和仿造的人臉呢？悉尼大學(xué)的神經(jīng)科學(xué)家發(fā)現(xiàn)了一種新方法：人們的大腦可以檢測出人工智能（AI）生成的假臉，即使人們無法口頭分辨出哪些臉是真、哪些是假。這項(xiàng)研究的論文近期被發(fā)表在 Vision Research 期刊上。
"換臉"視頻、圖像、音頻或文本看起來極其真實(shí)，但實(shí)際上是計(jì)算機(jī)生成的克隆程序，旨在誤導(dǎo)讀者并左右公眾輿論。他們是虛假信息傳播手段中的常見手段，極度普遍 -- 出現(xiàn)在政治、網(wǎng)絡(luò)安全、造假等領(lǐng)域。
你能分辨真假嗎？左邊的照片是真實(shí)的。來源：Michoel L. Moshel等人。
悉尼大學(xué)的研究人員在觀察參與者的大腦活動(dòng)時(shí)發(fā)現(xiàn)，大腦在54%的情況下可以識別出"假臉"。然而，只有37%的概率參與者可以口頭識別"假臉"。
悉尼大學(xué)心理學(xué)院的高級研究員副教授Thomas Carlson說："雖然這項(xiàng)研究中的大腦展示出得準(zhǔn)確率較低，僅為54%，但從統(tǒng)計(jì)學(xué)的角度上看是可靠的。"
"這告訴我們，大腦是可以識別出虛假和真實(shí)圖像之間的差異的。"
對機(jī)器人和詐騙手段的識別
研究人員表示，他們的發(fā)現(xiàn)可為打擊假冒偽劣提供一個(gè)跳板。
Carlson副教授說："大腦能夠檢測到‘人造臉'，這意味著當(dāng)前的‘換臉術(shù)'是有缺陷的。如果我們能夠了解大腦如何識別虛假圖像，我們可以利用這些信息創(chuàng)建算法，在臉書（Facebook）和推特（Twitter）等社交平臺上標(biāo)記出潛在的‘人造臉'。"
在未來，基于現(xiàn)有和類似研究發(fā)現(xiàn)，相關(guān)人員預(yù)計(jì)可開發(fā)出一種可以實(shí)時(shí)提示虛假信息的技術(shù)。例如，安保人員可通過戴上腦電圖功能（EEG）的頭盔，識別正在面對的虛假圖像。
研究人員在研究中使用了腦電圖（EEG），這是一種顯示大腦表層活動(dòng)的檢測方法。
Carlson副教授表示："EEG頭盔可有助于防止類似迪拜和英國最近發(fā)生的銀行盜竊和企業(yè)欺詐案件的發(fā)生。在這些案件中，騙子利用克隆語音技術(shù)竊取了數(shù)千萬美元。在這些案件中，財(cái)務(wù)人員認(rèn)為他們聽到了可信客戶或同事的聲音，從而被欺騙轉(zhuǎn)移了資金。"
眼睛vs大腦
研究人員進(jìn)行了兩個(gè)實(shí)驗(yàn)：一個(gè)是行為實(shí)驗(yàn)，另一個(gè)是神經(jīng)成像實(shí)驗(yàn)。在行為實(shí)驗(yàn)中，研究人員向參與者展示了50張真實(shí)和計(jì)算機(jī)生成的假臉圖像。他們被要求辨別哪些是真的，哪些是假的。
然后，另一組參與者在不知道一半的圖像為虛假的情況下，觀察相同的圖像，并使用腦電圖記錄他們的大腦活動(dòng)。
研究人員隨后比較了兩個(gè)實(shí)驗(yàn)的結(jié)果，發(fā)現(xiàn)人們的大腦比眼睛更善于識別虛假圖像。
這只是一個(gè)開始
研究人員強(qiáng)調(diào)，鑒于這一研究領(lǐng)域的新穎性，他們發(fā)表在《Vision Research》上的研究只是一個(gè)起點(diǎn)。它不會(huì)立即（甚至可能永遠(yuǎn)）保證識別"人造臉"的絕對可靠方法。
Carlson副教授說："更多的深度研究是必要的。讓我們看到希望的是，deepfakes"換臉術(shù)"是由計(jì)算機(jī)程序創(chuàng)造的，因此這些程序會(huì)留下可以被檢測到的電子‘指紋'。"
"我們對大腦識別‘人造臉'能力的發(fā)現(xiàn)意味著我們可能會(huì)有另一種途徑來打擊‘換臉術(shù)'和虛假信息的傳播。"
論文鏈接：https://www.sciencedirect.com/science/article/abs/pii/S0042698922000852?via%3Dihub
