Google發布視頻以幫助研究人員創建更好的deepfake檢測工具

Google LLC試圖通過發布一系列示例剪輯來打擊網絡上所謂的“深造”視頻，這種示例剪輯使研究人員可以用來開發更復雜的檢測工具。

Deepfake是依靠人工智能的人類圖像合成技術的名稱。它用于使用稱為生成對抗網絡的機器學習技術將現有圖像和視頻合并并疊加到源圖像或視頻上。

生成的視頻可能非常逼真。該技術過去曾被用來制作假名人色情視頻和復仇色情。Deepfake還用于創建虛假新聞報道。

谷歌在博客中表示，它將向公眾發布約3,000個Deepfake視頻。這些視頻是與一家名為Jigsaw的公司合作創建的，該公司是在Google的孵化器計劃中使用真正的演員創建??的。

谷歌說：“為了建立這個數據集，在過去的一年中，我們與付費演員和同意演員一起錄制了數百個視頻。” “然后，使用公開可用的Deepfake生成方法，我們從這些視頻中創建了數千個Deepfake。”

該數據集已合并到新的FaceForensics基準測試中，該基準測試是由慕尼黑工業大學和那不勒斯費德里科第二大學共同運營的項目。研究人員可以免費訪問這些視頻，以用于開發Deepfake檢測技術。

Google的視頻應該很有用，因為其中許多視頻看起來都非常逼真，特別是對于沒有參考點的用戶。在下面的示例中，頂部視頻顯示了一個真實的演員，而底部剪輯則包含了一個人工創建的Deepfake。

星座研究公司(Constellation Research Inc.)分析師Holger Mueller告訴SiliconANGLE，今天的發布表明Google遵守了今年早些時候發布的AI原則，這些原則將幫助社會應對AI以及整個技術的意外后果。

Mueller說：“ Deepfake很快就成為語音和視頻的一個問題，因此很高興看到技術不僅可以創建它們，而且可以更好地檢測和幫助它們。” “為獲取深層造假，需要測試和數據，以便提供商可以培訓其模型，企業和政府可以了解他們的運行狀況。很高興看到基于此數據集的產品的最初結果。”

谷歌表示，它將繼續向數據集中添加新視頻，以跟上Deepfake技術的發展。這也很重要，因為今天有效的檢測方法將來可能不會那么有效。

谷歌說：“我們堅信支持一個蓬勃發展的研究社區，以減輕因濫用合成媒體而造成的潛在危害，而今天在FaceForensics基準測試中發布我們的deepfake數據集是朝這個方向邁出的重要一步。”

Google并不是唯一一家認為自己有責任幫助我們檢測假內容的大型科技公司。Facebook Inc.本月表示，計劃發布自己的Deepfake視頻數據集。這家社交媒體公司還宣布了“ Deepfake檢測挑戰賽”，為能夠創建有效檢測工具的人員提供高達1000萬美元的獎金和贈款。