人工智能要想成功 電腦說不就死了

“電腦說不”是《小不列顛》的笑點。它模仿最糟糕的客戶服務，一個愚蠢的終端提供幫助和支持。我們有過類似的經歷，每個人都在微笑。

然而，隨著越來越多的服務被自動化，“計算機說不”可能意味著工作、抵押貸款甚至醫療服務都將被拒絕，而無需任何解釋。這不是開玩笑。

所有的數據科學家(包括我自己)都有責任確保用來訓練AI/ML模型的數據集是準確、完整和無偏見的。此外，我們需要確保算法中使用的因素對受影響的人是透明的。

隨著越來越多的政府、醫療和司法系統的自動化，我預計我們將看到向可解釋的人工智能的轉變，驅動因素是消費者對支持自動決策的算法持謹慎態度。我們看到過這樣一個例子，那就是毛地黃挑戰英國政府的簽證申請算法。毛地黃是一個游說團體，旨在促進科技行業的道德。

我預見該組織將引入AI治理，或標準化的透明度水平，這將概述AI算法如何產生決策或預測的因素和方式。隨著自動化成為常態，隱藏人工智能的組織可能會失去提供透明度的客戶。

但是，消費者可能并不要求產品推薦系統具有與醫療診斷系統一樣的透明度，或者自動駕駛汽車的實時決策邏輯。

在總結CCS Insight 2019年對IT決策者工作技術的調查結果時，分析師Nick McQuire寫道，“人工智能系統確保數據安全和隱私的能力，以及系統如何工作的透明度和培訓，是現在投資機器學習技術時最重要的兩個需求。”

對于一些應用，比如醫學診斷，我認為能夠解釋算法背后的邏輯將是一個優勢。對于其他領域，區別在于應用程序的運行時間、使用新數據調整和重新學習數據集的頻率，以及諸如準確性、真陽性和假陰性等成功衡量標準。

數據集的偏差和差異是反映實際應用的常見挑戰。例如，汽車保險公司在非洲國家應用政策/保費自動化方面面臨挑戰，在這些國家，道路基礎設施的差異可能導致好司機因路面不良而受到懲罰。這在分類偏差的范圍內，這對于數據科學家來說是一個與設計相關的挑戰。

為了克服數據模型中的偏差，第一個建議是使用機器學習算法或統計學習方法來代替深度學習。通常，機器學習方法是一種特征提取器，非常適合數據集很小或者有絕對偏差的情況。然而，深度學習算法需要具有一致分類的更大數據集。

第二個建議是增加數據集，這樣可以人工創建類別，獲得統一的數據集。然而，根據經驗，擴展只適用于特定類型的用例。如果設計不好，可能會對學習過程產生負面影響。

我預見到了自動數據清理、數據分析和預測分析的需求，這樣企業用戶和消費者就可以信任提供給人工智能模型的數據。

使用人工智能來掌握或清理數據需要主題專家來驗證預測決策。在我看來，為預測結果提供透明度的最好方法是顯示AI管道和有助于達到預測最終狀態的有影響力的數據點或數據屬性。這可以顯示為圖形或圖像形式的視覺關鍵性能指標。

深度學習假設算法不一定提供真理，但解釋了準確性的水平，其中每一層提取一個抽象的輸入數據，因此深度學習算法中的每一層都有自己的功能，這會扭曲最終的預測決策。該算法旨在“測量”數據點，并提出了一個靈活的函數(如果您愿意)，可以適應新的數據點。由此產生的預測是一種可能性，它來自不同數據點的組合和因子分解。

擁有干凈、最新、相關和高質量的數據更有可能產生有效的預測。

我們在人工智能領域觀察到的是，組織正在投入大量時間和金錢，使人工智能更容易被消費者中的不同角色所利用。隨著我們不斷提高人工智能的粘性和投資回報，我們將開始更加關注人工智能提出的自動化和前瞻性建議(即強制分析)。然后，可解釋的人工智能將提供一定程度的透明度，并解釋預測決策是如何產生的。

組織可以采取一些策略，在不暴露其知識產權的情況下，將透明度級別顯示為可預測的最終狀態。大多數消費者不一定需要看到AI算法的設計(這是組織的知識產權)，而是需要對預測決策是如何做出的有一個基本的了解(比如鏈接分析)。

我相信，消費者先知道哪些輸入參數影響預測決策，再知道哪些數據點或屬性的組合產生預測決策的概率更高，會更有利于消費者。

如今，“黑盒邏輯”可能成為組織面臨的主要挑戰之一，因為他們必須努力利用人工智能和機器學習來解決自動化過程。

自動化對任何組織都是有利的，但我認為鑒于目前人工智能模型的成熟，人工智能需要被控制，主題必須始終處于等式的中心。我的建議是用人工智能提出建議和推薦，讓主題專家驗證人工智能算法的結果。

這種策略的優點是算法暴露于更大的數據集，從而鞏固了其知識庫。隨著時間的推移，它會盡量模仿題材專家的反應，從而獲得更高的準確率。