IBM對AI的未來發展更多的信任更少的偏見和巨大的推動力

IBM公司以其在人工智能方面的開拓性工作而聞名，甚至在其Watson計算機擊敗幾個“ Jeopardy”冠軍之前數十年。但是近年來，它的工作至少在公眾的想象中被新的AI驅動的語音和圖像識別服務以及Google LLC，Microsoft Corp.和Facebook Inc.等公司的自動駕駛汽車所掩蓋。

今天，這家經驗豐富的科技公司在博客文章中重點介紹了其研究人員今年發表的有關人工智能和機器學習的100多篇論文中的幾篇。他們廣泛地關注先進技術，擴展AI系統并試圖增加對因缺乏透明度和偏見問題而受到政府和消費者的抨擊的AI系統的信任。

SiliconANGLE與位于圣何塞的IBM Research Almaden研究中心的副總裁兼實驗室主任Jeff Welser進行了交談， 探討了IBM正在進行的工作，在AI工作中面臨的挑戰以及研究人員認為2019年及以后的發展的一些精選示例。這是對話的編輯版本。

問：通過相對較少的示例，深度學習或可以像人類一樣學習的其他AI系統的前景如何?

答：這是一個挑戰。但是，當我們思考人們的學習方式時，小時候您會得到一些汽車的例子，而媽媽說這是一輛汽車，并提供了一些帶有標簽的例子。但是實際上您會看到很多很多汽車，因此您會得到很多未貼標簽的示例，這有助于您定義組成一輛汽車的所有參數和功能。

但是到了某個時候，您確實發現了與眾不同的東西，例如非常大的東西，然后您會問“這是汽車嗎?” 媽媽說：“不，那是卡車。” 因此，立即轉到該示例，您會看到參數何時達到一定水平，我現在知道這是一輛卡車，您會立即看到很多卡車的示例，而您的大腦真的很擅長對這兩種卡車進行分類。

這就是我們要進行的一擊或幾擊學習。我們正在減少標記的數據，并幫助系統進行推斷，以便它可以識別與之相關的新事物。最終，您希望系統知道詢問。我們現在處理它的方式是嘗試做一些事情，例如提供置信度。但這與知道不知道的東西不同。

問：還有其他方法可以減少對如此多數據的煩惱嗎?

答：我們也在尋找可以自動標記很多圖像樣本的方法。甚至甚至可以通過對可能相似的圖像進行聚類并詢問“這些對嗎?”來幫助人們更快地進行標記的系統。我們在自然語言處理中做了很多工作。

問：除了深度學習，您還在尋找什么方法?

答：人們對基于規則的非結構化數據分析有了新的興趣。神經網絡的挑戰之一是它可能是一個黑匣子。例如，我們并不總是確切地了解神經網絡學習了哪些功能，以使其了解汽車，例如，這使得很難知道何時或為什么會出錯。 一件事是，我們可以更好地分析神經網絡，以了解它們實際上是在做出哪些決策。

但是第二件事是，我們應該回到一些基于規則的工作嗎?嘗試并告訴系統存在常識的事物，例如水被弄濕了，水會留在碗里。

弄清楚是否可以將它們組合起來會引起一些興趣。甚至我們使用的某些系統都可以做到這一點-文本分析系統System C非常基于規則。深度學習進一步增強了它。我們發現的一件事是，在某些情況下，盡管基于規則的系統更難構建和維護，但它們可能更健壯。

問：研究人員還希望突破AI的黑盒子嗎?

答：一種方法是您可以查看神經網絡內部并分析所呈現的各種功能似乎激發了哪些神經元。如果是視頻，神經網絡的這一部分是否會對角或邊緣或運動變化做出響應?然后從中推斷出真正觸發響應的是什么。如果它觸發了一些奇怪的事情，也許這表明我們應該研究一些事情。

我在阿爾瑪登(Almaden)有一個小組，從事更多的投機工作，以分析神經網絡并提取其實際使用的規則。這更具挑戰性，但很有趣，因為它可能將兩者聯系在一起。

問：您正在采取什么措施減少AI的偏見?

我們正在使用大量數據對神經網絡進行大量測試。當您談論偏見時，這顯然成為一個問題。如果您有非常龐大的數據集，您甚至可能沒有意識到數據在性別或您正在分析的內容上略有偏見

因此，現在我們有了系統來分析數據集，并查看它在此特定特征集中是否被過度代表。可能是您對這些特征的訓練過度。有些東西很容易：如果您要分析人，請確保男女人數相等。

這不會一one而就。數據變化以及事物將要發生變化。今年早些時候，我們發布了AI偏差工具包-我們推薦的技術和流程。

問：您如何看待政府在人工智能中的作用?甚至微軟最近也呼吁聯邦政府幫助確定標準。

答：作為一個行業，我們正在就這些標準進行合作。我們要確保我們不會在不希望使用AI的方向上使用AI。未來生活研究院是研究AI如何影響社會未來的一群人。

問：我們可以讓人類陷入AI的循環嗎?

答：有兩部分。在培訓系統方面，人總是處于循環之中。我們正在使用各種工具，這些工具可以幫助平衡我們正在談論的機器在超大規模上可以做什么以及人類可以做什么來確保機器向正確的方向行駛。

當我們談論使用系統時，這是相似的。目的是弄清楚AI如何在工作流程中大規模自動化事物，這對于一個人來說是很難做到的。但是，然后它應該以一種使人可以做自己擅長的方式來呈現信息，即首先了解目標是什么，權衡常識性決策并了解機器是否有信心有信心，該人是否應該深入研究并弄清楚答案的產生方式。我們希望與機器的伙伴關系很容易。

問：明年您將跟蹤AI的哪些趨勢?

答：一個是受信任的AI將成為中心舞臺。我們已經看到了。它將變得不那么容易思考了。您從一開始就選擇要訓練的數據。確保您是從下而上構建系統的……以便獲得答案的人知道它的來源。信任必須成為2019年培訓，部署和使用AI的重要組成部分。

下一個更具投機性，我們將在2019年解決，但將在以下方面取得進展：因果關系將取代相關性。大數據分析基本上可以識別相關性，例如與貓相關的[圖像]特征。例如，當您嘗試在診斷中找出疾病時，這一點就顯得尤為重要。公雞的烏鴉并沒有引起太陽升起，它與太陽相關，但是開關確實會點亮燈。但是今天的AI確實很難確定因果關系。我們希望致力于理解AI中的因果關系。

問：IBM正在從事此領域的哪些項目?

答：我們正在化學領域進行研究，以了解會產生什么樣的新分子—了解化學反應，以便AI不僅暗示隨機分子，還暗示可能實際起作用的分子。在其他實驗室的其他領域中也發生了類似的事情。

問：來年還有其他趨勢嗎?

答：一個領域是最遙遠的領域，但我們肯定會在2019年看到進展的領域是應用于AI的量子計算的整個領域。總體而言，量子計算一直在加速發展，我認為在未來幾年中，我們將從加密和加密轉向其他應用程序，而其他應用程序可能會更快地產生影響。

這些領域是化學方面的模擬，金融行業中可能遇到的優化問題以及越來越多的機器學習。在AI中，您通常需要建立一個非常高的尺寸狀態，查看許多參數上的大量數據，然后找出如何分離出正確的參數。量子計算機非常擅長生成高維狀態。這些問題非常適合我們現在擁有的量子計算機。

問：近年來，關于谷歌，Facebook和微軟等公司將人工智能應用于消費者問題的信息，我們聽到的更多，但是對于IBM在面向消費者的AI方面工作較少的了解卻很少。這是為什么?

答：消費者方面更加可見，談論甚至實施起來也更加容易……就像推薦產品一樣，這是一項非常具體的任務。我們正在嘗試找出真正更廣泛地推進AI的方法。我們希望為所有人提供幫助……無論是醫療保健，金融行業乃至社會事務：更好地解釋IoT傳感器中的數據，更好地控制您的工廠或房屋，或解決污染問題。