Kyndi以可解釋的AI突破黑匣子

就像一個十幾歲的孩子有時做出錯誤的選擇并且不能總是解釋導致他們誤入歧途的情緒一樣，人工智能正在經歷越來越大的痛苦。

盡管這個術語最初是由計算機科學家約翰·麥卡錫(John McCarthy)于1955年提出的，但直到八年前，更快的處理器和數據收集設備的爆炸大大推動了AI的發展，AI才真正流行起來。2011年，引入了蘋果的語音助手Siri，IBM公司的Watson在一場問答比賽中擊敗了競爭對手，這激發了人們對AI提供的潛力的更大興趣。

問題在于，使用AI創造的大部分東西，尤其是被稱為深度學習的那種嘗試幫助計算機像人類一樣學習的東西，仍然仍然是個謎。隨著傳感器收集的信息流入龐大的人工神經元和算法網絡，并產生結果，沒人能確定機器是如何做出決定或采取特定行動的。

在當前的技術術語中，將AI封裝在“黑匣子”中，這不一定是一件好事。

一家公司 -Kyndi Inc.- 已著手打開黑匣子并解釋其中的內容。該公司正在構建其所謂的第一個“可解釋的AI”平臺，這是一種在AI神秘機背后提供可審計推理的方法。

Kyndi首席運營官艾米·瓜里諾(Amy Guarino)(如圖)說：“你無法理解結果是什么。” “我們這樣做的方式是，您可以追溯到實際的原始數據源，以確保它確實是正確的。”

瓜里諾在兩次單獨的采訪中與位于加利福尼亞帕洛阿爾托的SiliconANGLE Media移動直播工作室CUBE主持人Peter Burris進行了交談。他們討論了Kyndi可解釋的AI背后的技術，在受監管的行業之外采用其平臺，越來越多的人擔心深度學習可能無法迅速發展，以及瓜里諾從硅谷男性主導的走廊中多年的經驗中學到了什么(見此處和此處的成績單的完整訪談)。

本周，CUBE在其“科技女性”專題節目中聚焦了Amy Guarino。

從語言解析上下文

Kyndi使用語言解鎖黑匣子。它的技術可吸收任何文本形式的文檔，然后應用自然語言處理來解析術語和上下文。

然后，它可以從文檔中提取結構并提供域靈活性，而黑匣子AI并不能做到這一點。Kyndi的平臺也不需要大量的數據來訓練其模型。該系統只能訓練10到30個科學文件，每個文件最多50頁。

瓜里諾說：“建立一個分類法時，您不必做很多工作。” “我們采取的方法實際上集中在語言上。”

該公司最初認為，其技術最廣泛使用的應用將是在需要解釋的受管制行業中。但是Kyndi發現，其從非結構化文本數據構建巨型知識圖的過程在人力資源和營銷等其他組織中具有吸引力。

瓜里諾說：“這對于任何類型的決策都是非常重要的，因為人們正在分配資源，他們必須解釋原因。”

人工智能進展緩慢

Kyndi的方法出現之時，一些技術專家警告說AI可能會在其發展過程中碰壁。去年，紐約大學教授，對當前AI技術的長期批評家Gary Marcus發表了一份報告 ，公開質疑從深度學習中提取的模式是否真的那么深。

隨著AI和機器學習應用的持續增長，這可能給許多企業帶來麻煩。德勤全球(Deloitte Global)最近報告稱，到明年，集成了AI的企業軟件的滲透率將達到87%。

Kyndi自己與企業公司的討論呼應了圍繞AI的一些不確定性。瓜里諾(Guarino)最近與一家在水處理廠使用深度學習的公司進行了交談，這一過程受到水質監管機構的質疑。

瓜里諾回憶說：“他們的客戶說，'您需要向我們解釋您在做什么以及為什么這么做。' “他們說，'我們不能。' 那是個問題。”

克服性別障礙

瓜里諾(Guarino)花了超過25年的時間指導客戶銷售組織。在加入Kyndi之前，她曾負責市場營銷自動化軟件公司Marketo Inc.的業務開發，該公司最近被Adobe Inc.以47.5億美元的價格收購。

憑借她在硅谷的經驗，瓜里諾非常了解在一個男性主導的行業中女性所面臨的挑戰。

瓜里諾說：“尤其是在科技領域，有很多情況你會走進銷售組織，而其中80%到90%的人都是這樣。” “這使女性很難加入這樣的組織。”

肯迪(Kyndi)的首席運營官對婦女處于少數群體的環境并不陌生。瓜里諾大學(Guarino)在學校開始招收女性后的第10年，從圣母大學畢業。 當時她的班級比例是80%的男性和20%的女性。

在她的職業生涯中，瓜里諾(Guarino)對女性可以帶給銷售組織的優勢有了更好的了解。“女性如何看待銷售?” 瓜里諾問。“很多都集中在聽力技巧上。女人確實具有天生的親和力，能夠傾聽并真正退出，無論是潛在客戶還是客戶，對他們來說真正重要的是什么。”

許多科技公司面臨的挑戰是使員工隊伍多樣化并充分利用不同觀點可能帶來的技能和特質。瓜里諾說，這包括確保女性在公司領導層中有足夠的代表。

瓜里諾說：“這可以在很大程度上改變公司文化的活力。” “期望您有不同類型的觀點和查看客戶獲取，參與和支持的不同方法。當您有不同的看法和不同的看待事物的方式時，我們都可以互相幫助。”