AI會流氓嗎討論企業機器智能的障礙

李飛飛(Fei-Fei Li)是人工智能領域的世界知名專家，已升格成為斯坦福大學AI實驗室的負責人和Google Cloud的AI首席科學家。但是，當Google LLC去年就如何與美國國防部公開討論其AI合同展開內部辯論時，Li于去年9月決定就此問題寫一份機密備忘錄的決定，可能是她職業生涯中第二糟糕的時刻。最糟糕的是當一切都公開時。

“給所有成本避免任何提及或暗示AI的事情，” Li寫道。“這是媒體發現所有損害Google的方法的紅肉。”

5月，《紐約時報》發表了一系列泄露的電子郵件，最終揭露了李彥宏對Google的AI參與五角大樓指揮的無人機成像項目Project Maven的擔憂。4,000名Google員工簽署了一份請愿書，要求該公司不要建造戰爭技術后，該公司在6月宣布，明年將不續簽其政府AI合同。

Google的經驗為我們揭開了帷幕，這已迅速成為當今許多在AI領域運營的公司的核心問題。企業如何管理AI開發和部署的風險?

SiliconANGLE Media Wikibon市場研究部門的負責人，SiliconANGLE移動平臺CUBE的主持人彼得·伯里斯(Peter Burris)說：“員工已經開始反對利用他們的知識產權，聰明才智，他們的研究成果并將其應用于應用的想法。”直播工作室，與Wikibon分析師進行“ AI風險”討論。“這只是所有企業都必須面對的考慮因素之一。”

隨著AI在許多實際應用中根深蒂固，其社會意義迫使許多企業面臨一個關鍵問題：僅僅因為我們可以做到，我們應該嗎?

隱私和面部識別

一個備受爭議的領域是面部識別技術的使用及其對個人隱私的影響。攝像機能夠識別出人群中的面孔并針對信息數據庫應用機器學習算法以將姓名與面部圖像進行匹配的能力已經變得越來越復雜。

這種發展在很大程度上歸因于AI片上系統的興起。蘋果公司的A11 Bionic SoC驅動了其較新的iPhone型號的面部識別功能。去年，英特爾公司 在芯片上發布了自己的系統 Movidius Myriad X，用于在智能相機和其他邊緣設備中進行AI導向的視覺處理。

對于廣大公眾而言，面部識別的這些快速發展有時會在每日新聞中播出。英國當局通過對中毒發生社區周圍數千小時的錄像進行了精密的分析，找出了兩名涉嫌與一名前克格勃間諜中毒的俄羅斯男子。

Wikibon分析師James Kobielus說：“人工智能正在我們的生活中爭議最大的領域是面部識別。” “面部識別是“老大哥”最好的朋友，有可能在我們碰巧出現在公共場所以及越來越多地在私人領域中不斷追蹤我們每個人。”

盡管人們擔心隱私和Google最近的動蕩，但AI仍然代表著全球經濟發展的誘人機會。一個普華永道報告估計，人工智能技術，可以通過157000億$在未來十年增加全球國內生產總值(GDP)。像這樣的數字給企業公司施加了巨大的壓力，要求它們以有益于弊的方式傳播人工智能。

Wikibon分析師Stu Miniman說：“數十年來，我們一直在談論自動化將如何提供幫助。” “您通常可以從運營數據中細分客戶的個人信息數據，因此確實存在機會。技術提供商將希望利用這一點。”

保護企業數據

有跡象表明一些AI技術提供商正在傾聽。本月初，IBM Corp.推出了IBM AI OpenScale，該平臺可幫助企業管理AI應用程序。這個旨在阻止企業“ AI蔓延”潛在增長的新平臺將于今年晚些時候在IBM Cloud上可用。

9月，Microsoft Ignite發布的公告之一是有消息稱Adobe Systems Inc.，SAP SE和Microsoft Corp.將成為開放數據計劃的合作伙伴。它本質上是Azure云上的匯總安全數據“湖”，將由三家公司維護，以保護和分離客戶信息。

“毫無疑問，人工智能將在基礎設施公司，云公司中得到深度利用，以此作為他們如何使用服務，如何從服務中獲利，如何保證服務交付的前提。” “科技行業有巨大的動力來確保AI行為的領域和使用它的適當風險得到解決。”

控制AI的影響

一個重點關注的領域涉及算法控制，因為畢竟，人類首先建立了AI技術以在機器上運行。AI可以開發自己的防御機制并學習如何規避人的命令，這并非沒有可能。

洛桑聯邦理工學院的研究人員一直在研究這種可能性，并評估了避免這種可能性的方法。他們的解決方案部分基于“安全可中斷性”的概念，使人類能夠中斷AI流程，同時確保中斷不會影響技術的學習能力。

這是一項棘手的控制措施，在未來幾年中可能會成為進一步辯論和研究的主題。Kobielus說：“通過自動機器學習的力量，人工智能可以在沒有人工指導的情況下構建自己的機器運行模型，對其進行自動訓練并采取行動。” “因此，在物聯網中，我所謂的AI流氓機構的潛力是非常現實的。”

人工智能的影響和控制這一更廣泛的問題遠遠超出了企業的范圍。圍繞AI的問題是政治，文化和全球性的。

在本周早些時候于比利時舉行的一次隱私會議上，蘋果首席執行官蒂姆·庫克(Tim Cook)在一次演講中 警告說，人工智能必須尊重人類價值觀，并呼吁業界采用隱私標準以防止濫用。庫克的講話代表了對控制的呼吁，隨著AI采用率的增長，控制可能會持續下去。

Wikibon的創始人兼主持人Dave Vellante說：“這將是一個高度兩極化的環境，它將出現一系列非常多樣化的標準。” “我們的技術使我們陷入了問題，但是技術可以幫助我們擺脫問題。”