Richard Socher人工智能的真正危險是人類的偏見而不是邪惡的機器人

Richard Socher到處走走。他是MetaMind的創始人，MetaMind是一家人工智能(AI)創業公司，在2016年被Salesforce收購之前，他從Khosla Ventures和其他公司獲得了超過800萬美元的風險投資支持，之前他曾擔任斯坦福大學計算機科學系的兼職教授。他還獲得了博士學位。(他在萊比錫大學獲得了學士學位，在薩爾大學獲得了碩士學位。)2007年，Socher成為了在語義機器人視覺挑戰中獲得第一名的團隊的一員。他在組裝ImageNet方面發揮了重要作用，ImageNet是一個公開可用的注釋圖像數據庫，用于測試，訓練和驗證計算機視覺模型。

Socher--現在是Saleforce的首席數據科學家 - 長期以來一直被自然語言處理領域所吸引，這是計算機科學的一個子領域，涉及計算機和人類語言之間的相互作用。他的論文表明，深度學習 - 分層數學函數松散地模擬人類大腦中的神經元 - 可以同時解決幾種不同的自然語言處理任務，從而避免了開發多個模型的需要。2014年，MetaMind使用一些相同的理論原理，他和一個工程師團隊制作了一個在ImageNet上實現最先進精度的模型。

毫無疑問，在2017年，世界經濟論壇稱他為“人工智能和深度學習空間的神童之一，其突破性技術正在改變自然語言處理和計算機視覺。

在Salesforce，Socher管理著一個研究人員團隊，他們積極發布有關問答，計算機視覺，圖像字幕和其他核心人工智能領域的論文，并且每年一次與斯坦福大學的研究生級自然語言處理和深度學習課程合作。在上周于蒙特利爾舉行的NeurIPS 2018會議上，他慷慨地自愿與VentureBeat就當前存在的人工智能系統，Salesforce在研究界的角色以及人工智能方面的進展(或缺乏)進行對話。即人類AI。

這是我們采訪的編輯記錄。

VentureBeat：對Salesforce來說，這是忙碌的一年。我看到，愛因斯坦正在推動30億次預測，比今年早些時候的10億次增加，并且它正慢慢成為你投資組合中幾乎所有產品的一部分。就在不久之前，你宣布了愛因斯坦語音平臺，并為愛因斯坦機器人提供了一般商用機器人。所以也許我們可以從那里開始。

會話系統正日益成為消費者生活的一部分。顯然，Salesforce將其視為您業務中非常重要的一部分。那么未來會是什么樣子?

Richard Socher： 我認為，對于我們來說，成為一個瑞士人很重要，如果你愿意的話，就很多人工智能的努力而言，因為我們的客戶在很多不同的地方。在Salesforce的，我們認為，不僅是我們的客戶的需求，但對 他們的客戶在B2C容量需求。這就是為什么我們嘗試支持所有這些不同的框架和平臺 - 例如Alexa和Google Home。

同時，我們希望實現許多針對企業的要求，因此在我們擁有大量實力的領域構建自己的[解決方案]也是有意義的。例如，服務是我們在企業界非常熟悉的東西。我們試圖讓所有客戶 - 超過150,000家公司 - 從AI中受益，就像這些擁有數十億美元研發預算的大公司從中受益一樣。這就是為什么我對我們擁有的這種平臺思維感到興奮。我們真的想讓這些技術民主化。

事實證明，大公司想要一項服務，并且他們想要支付SLA并獲得服務水平協議，正常運行時間保證，支持以及所有這些服務。只是在某個地方放置一些開源代碼并不是那么有用。為了讓許多不同規模的公司實現AI的民主化，您必須將其作為一種服務提供。當然，我們首先從我們認為最有用的軟件包應用開始，因此我們的客戶不必亂搞任何東西。但我們也希望管理員能夠輕松創建自己的AI功能。

VentureBeat：您剛才提到了開源技術所涉及的一些挑戰。合規是其中之一嗎?

Socher：你提到這個很有意思。我們的銀行客戶看到了我們的愛因斯坦語音系統的第一個版本，該系統使用了消費者API，其中一些人說由于[API]他們無法使用它。

我們使用的較大語音系統中的一個模型是一種語言模型，它試圖預測句子中的下一個單詞，以幫助自動完成事物。現在，如果您從客戶那里獲取數據并且他們說“X公司正在收購Y公司”，那么這將成為培訓數據的一部分。麻煩的是，它是非常敏感的信息，如果它通過自動更正無意中以某種方式顯示給用戶，那顯然是一件壞事。

我所說的是，我可以看到為什么銀行和其他企業喜歡使用私有數據的保險不希望使用消費者API，因為他們的數據成為大型池的一部分。每家公司都有自己的術語和私人數據，對他們來說，讓他們感覺自己能夠控制他們想要在語音識別系統中使用的詞匯量非常重要。

VentureBeat：不要過于依賴他們的合規性，我并不是說建議有一個簡單的解決方案，但你是否一直在關注加密方面的發展，比如英特爾的HE-Transformer?我在談論訓練加密數據的AI系統。你認為這可能是一個值得進一步調查的領域嗎?

Socher：我其實很喜歡。這很有趣 - 這里有兩個相互競爭的想法。一方面，你可能會說AI已經足夠困難了。為什么我們應該通過加密數據使其變得更難?畢竟，大腦首先不加密，然后嘗試訪問它。

但你也可以說我們現在需要隱私。信任是Salesforce的頭號價值。我們希望使這些系統更好，并且可能通過加密數據使它們稍微惡化。但是，你可以做更多的數據共享，結果可能產生一個最終做得更好的系統。