Salesforce旨在為AI帶來更多常識

機器學習和深度學習近年來已經取得了許多突破，從功能更強大的語音和圖像識別到自動駕駛汽車。但是，這些試圖模仿大腦工作方式的人工智能技術的一個大問題是，他們使用的神經網絡不具備人們所擁有的常識性知識和上下文，例如社會習俗，物理學定律和原因和結果。

這可能會使他們的決策有時感到困惑或完全錯誤—正如使用Alexa，Google助手或任何數量的客戶助理聊天機器人的人所知道的那樣。但也許不會太久。

Salesforce.com Inc.的研究小組今天宣布了一篇論文，概述了改善這種情況的方法。該論文將在7月29日至8月的計算語言學協會年會上發表。2在意大利佛羅倫薩，研究人員 建議不僅使用來自各種數據集的數據來訓練神經網絡模型，以如何準確地回答許多問題，而且還要解釋為什么這些答案是最佳的。

Salesforce雇用了Amazon.com Inc.的Mechanical Turk眾包服務人員，以舉例說明今年早些時候由特拉維夫大學和艾倫人工智能研究所的研究人員提出的常識問答或CQA數據集。

Salesforce首席科學家Richard Socher告訴SiliconANGLE：“基本上，它可以提取大量無人監管的[未標記]文本，從該文本中提取常識，并為其提供理由。”

Salesforce研究科學家Nazneen Rajani補充說，令人驚訝的結果是，僅在模型訓練階段看到人為推理的示例后，神經網絡在實際測試中的性能要好得多。她在博客中寫道：“我們推測這些解釋捕獲了有關世界運轉方式以及網絡在測試時基于這些信息進行推理的有價值的信息。”

在研究的第二部分中，包括Salesforce Research的Bryan McCann和Xiong Ximing在內的研究人員對第二個神經網絡進行了培訓，目的只是學習如何從大量閱讀的模仿CoS-E的人類文本的文本中產生常識性推理。產生的解釋。這個常識自動生成的解釋或CAGE框架在回答的準確性方面做得更好，盡管它仍遠遠落后于人類95%的準確率，但65%的得分超過了其他最新方法。

麥肯說，他希望隨著模型對世界知識的熟悉，結果會更好。他希望這些解釋將隨著時間的推移“填補空白”。

Salesforce在論文中承認，還需要改進的另一個領域，這些天從實驗室到華盛頓特區都引起了越來越多的關注：由于數據中的偏差而消除了模型中的偏差。例如，在CQA中，Salesforce研究人員注意到“明顯的性別差異和偏見，在負面環境中使用的女性代詞比例更高。”

拉賈尼說，雖然可能需要在模型中而不是數據中發生，但尚不清楚如何解決這種偏差，目前尚無法清除所有偏差。McCann補充說：“我們希望努力減少偏差，”但是至少新工作為神經網絡如何解決這種偏差提供了更好的解釋。

拉賈尼說，這項研究的最終結果可能會減少挫敗感，使聊天機器人和數字助理變得更加無縫。

Salesforce計劃開放常識性解釋的數據集。