Adobe已經構建了一個deepfake工具但它不知道如何處理它

Deepfakes已經對圖像、音頻和視頻編輯領域產生了巨大影響，那么為什么內容領域的巨頭Adob??e沒有更多地參與進來呢?嗯，簡短的回答是——但要緩慢而謹慎。在今天的公司年度Max會議上，它推出了一個名為ProjectMorpheus的原型工具，展示了將deepfake技術集成到其產品中的潛力和問題。

ProjectMorpheus基本上是該公司去年在Photoshop中推出的NeuralFilters的視頻版本。這些過濾器使用機器學習來調整對象的外觀，調整他們的年齡、頭發顏色和面部表情(例如，將驚訝的表情變成憤怒的表情)。Morpheus為視頻內容帶來了所有這些相同的調整，同時添加了一些新的過濾器，比如改變面部毛發和眼鏡的能力。將其視為人類的角色創建屏幕。

結果絕對不是完美無缺的，并且與更廣泛的深度偽造世界相比，范圍非常有限。例如，您只能對面對相機的人的外觀進行預先設定的小調整，而不能執行換臉等操作。但是質量會快速提高，雖然該功能目前只是一個原型，不能保證它會出現在Adob??e軟件中，但顯然該公司正在認真調查。

不過，ProjectMorpheus也是一種深度偽造工具——這可能是一個問題。一個大的。因為deepfakes以及與之相關的所有內容——從未經同意的色情內容到政治宣傳——對商業并不完全有利。

現在，考慮到我們現在對深度偽造的定義松散，Adobe可以說多年來一直在制造這樣的工具。其中包括前面提到的神經過濾器，以及更多功能的工具，如AI輔助掩蔽和分割。但ProjectMorpheus顯然比公司早期的努力要深得多。這完全是關于編輯人類的視頻片段——以許多人可能會覺得不可思議或操縱的方式。

例如，在視頻中改變某人的面部表情可能會被導演用來打擊壞鏡頭，但它也可以用來進行政治宣傳——例如，讓被監禁的持不同政見者在法庭錄像中表現得放松，而他們真的很放松被餓死。這就是政策專家所說的“雙重用途技術”，這是一種時髦的說法，即該技術“有時可能很好，有時可能很糟糕”。

毫無疑問，這就是為什么Adob??e在發送給TheVerge的任何簡報材料中都沒有使用“deepfake”一詞來描述該技術的原因。當我們問到為什么會這樣時，該公司沒有直接回答，而是給出了一個很長的答案，說明它如何認真對待Deepfake帶來的威脅以及它正在對它們采取什么措施。

Adobe在這些領域的努力似乎涉及和真誠(他們主要專注于內容身份驗證方案)，但它們并沒有減輕公司面臨的商業問題：對其客戶群最有用的相同deepfake工具是那些這也可能是最具破壞性的。

例如，將某人的臉粘貼到其他人的身體上的能力——可以說是開始所有這些麻煩的ur-deepfake應用程序。您可能出于正當理由想要換臉，例如授權布魯斯·威利斯(BruceWillis)在俄羅斯制作一系列移動廣告的肖像。但您也可能正在制作未經同意的色情內容來騷擾、恐嚇或勒索某人(迄今為止該技術最常見的惡意應用)。

無論您的意圖如何，如果您想創建這種深度偽造，您有很多選擇，但沒有一個來自Adob??e。您可以聘請精品deepfake內容工作室，使用一些開源軟件，或者，如果您不介意您的面部交換僅限于預先批準的模因和gif，您可以下載一個應用程序。你不能做的是啟動Adob??ePremiere或AfterEffects。那么未來這種情況會改變嗎?

不能肯定地說，但我認為這絕對是一種可能性。畢竟，Adobe在“Photoshopped”成為一般數字編輯圖像的簡寫之后幸存下來，并且通常帶有負面含義。不管是好是壞，deepfakes正在慢慢失去它們自己的負面聯想，因為它們被更多的主流項目采用。ProjectMorpheus是一個深度偽造工具，有一些嚴格的防護措施(例如，您只能進行規定的更改，而不能進行換臉)，但它表明Adob??e決心探索這個領域，大概是在衡量行業和公眾的反應的同時。

隨著“deepfake”取代“Photoshopped”成為公共領域對造假行為的首選指控，Adobe可能感覺被排除在外。Morpheus計劃表明它很可能很快就會趕上。