2月17日人工智能生成的面孔比真實面孔更值得信賴

研究人員表示，人們無法區分人工智能生成的人臉(使用StyleGAN2)和真人臉，他們呼吁采取保護措施來防止“深度造假”。人工智能合成的文本、音頻、圖像和視頻已經被用于所謂的“復仇色情”、欺詐和宣傳。

蘭開斯特大學的SophieNightingale博士和加州大學伯克利分校的HanyFarid教授進行了實驗，要求參與者區分最先進的StyleGAN2合成人臉和真實人臉，以及這些人臉喚起的信任程度。

結果表明，合成生成的人臉不僅具有高度的照片逼真度，而且與真實人臉幾乎無法區分，甚至被認為更值得信賴。

他們在期刊上寫道：“我們對AI合成人臉照片真實感的評估表明，合成引擎已經走過了恐怖谷，能夠創造出比真實人臉難以區分且更值得信賴的人臉。”

研究人員警告人們無法識別人工智能生成的圖像的影響。

“也許最有害的后果是，在任何圖像或視頻都可以偽造的數字世界中，任何不方便或不受歡迎的記錄的真實性都可能受到質疑。”

在第一個實驗中，315名參與者將從一組800張面孔中提取的128張面孔分類為真實面孔或合成面孔。他們的準確率為48%，接近50%的機會表現。

在第二個實驗中，219名新參與者接受了培訓，并就如何對人臉進行分類給出了反饋。他們分類了與第一個實驗相同的800張人臉集合中的128張人臉——但盡管進行了訓練，但準確率僅提高到59%。

研究人員決定找出可信度的感知是否可以幫助人們識別人造圖像。

“人臉提供了豐富的信息來源，只需幾毫秒的曝光時間就足以對個人特征(例如可信度)做出隱含推斷。我們想知道合成人臉是否會激活相同的可信度判斷。如果不是，那么可信度的感知可以幫助區分真實的來自合成面孔。”

第三項研究要求223名參與者對128張面孔的可信度進行評分，這些面孔取自同一組800張面孔，評分范圍為1(非常不可信)到7(非常可信)。

合成面孔的平均評分比真實面孔的平均評分高7.7%，具有統計學意義。

“也許最有趣的是，我們發現合成生成的面孔比真實面孔更值得信賴。”

黑人面孔被評為比南亞面孔更值得信賴，但除此之外對種族沒有影響。

女性被認為比男性更值得信賴。

“一張笑臉更有可能被評為值得信賴，但65.5%的真實面孔和58.8%的合成面孔是微笑的，因此僅面部表情無法解釋為什么合成面孔被評為更值得信賴。”

研究人員認為，合成的面孔可能被認為更值得信賴，因為它們類似于普通面孔——而這些面孔本身被認為更值得信賴。

為了保護公眾免受“深度偽造”的影響，他們還提出了合成圖像的創建和分發指南。

“例如，保護措施可能包括將強大的水印整合到圖像和視頻合成網絡中，這將為可靠識別提供下游機制。因為對這種強大技術的訪問民主化構成了最重大的威脅，我們還鼓勵重新考慮向公眾開放的通常放任自流的方法，并鼓勵任何人不受限制地發布代碼以將其合并到任何應用程序中。

“在這個關鍵時刻，正如其他科學和工程領域所做的那樣，我們鼓勵圖形和視覺社區制定合成媒體技術的創建和分發指南，其中包含針對研究人員、出版商和媒體分銷商的道德準則。”