人工智能要想成功電腦說不就得死

“電腦說不”是《小不列顛》的笑點，它模仿了最糟糕的客戶服務，由一個愚蠢的終端提供幫助和支持。我們也有過類似的遭遇，大家都面帶笑容。

然而，隨著越來越多的服務實現自動化，“電腦說不”可能意味著在沒有任何解釋的情況下，工作、抵押貸款甚至醫療服務都會被拒絕。不是鬧著玩的。

所有數據科學家(包括我自己)都有責任確保用于訓練AI/ML模型的數據集是準確、完整和無偏的。除此之外，我們還要確保算法所使用的因素對受影響的人是透明的。

隨著越來越多的政府、醫療和司法系統實現自動化，我預計我們將看到一種向可解釋的人工智能的轉變，其驅動因素是消費者對支持自動決策的算法的警惕。我們已經看到一個這樣的例子，即Foxglove組織對英國政府的簽證申請算法發起的挑戰。Foxglove是一個旨在促進科技行業道德規范的游說團體。

我預見組織將引入AI治理，或者一種標準化的透明度水平，它將概述出AI算法如何產生決策或預測的因素和途徑。隨著自動化成為常態，掩蓋人工智能的組織可能會失去那些提供透明度的客戶。

然而，消費者可能不會要求產品推薦系統具有與醫療診斷系統相同的透明度，或者自動駕駛汽車的實時決策邏輯。

總結的結果CCS Insight的IT決策者工作技術2019年調查,分析師Nick McQuire寫道,“人工智能系統的能力,以確保數據的安全性和隱私,和系統如何工作的透明度和訓練,現在是兩個最重要的需求當投資于機器學習技術。”

對于某些應用程序，例如醫療診斷，我認為能夠解釋算法背后的邏輯將是一個優勢。對于其他領域，區別在于應用程序的運行時間、使用新數據對數據集進行調優和重新學習的頻率，以及諸如準確性、真陽性和假陰性等成功度量。

數據集中的偏差和方差是反映現實世界應用程序的常見挑戰。例如，汽車保險公司在非洲國家的政策/保費自動化應用方面受到挑戰，在這些國家，道路基礎設施的差異可能導致好司機因路面差而受到懲罰。這符合分類偏差的范圍，對數據科學家來說，這是一個與設計相關的挑戰。

為了克服數據模型中的偏見，第一個建議是使用機器學習算法或統計學習方法，而不是深度學習。通常情況下，機器學習方法是特征提取器，當數據集很小或有絕對偏差時非常適合使用。然而，深度學習算法需要一個更大的分類一致的數據集。

第二條建議是增加數據集，這樣就可以人為地創建類別以獲得統一的數據集。然而，從經驗來看，擴展只適用于特定類型的用例——如果設計得不好，可能會對學習過程產生負面影響。

我預見了自動化數據清理、數據分析和預測分析的需求，以使企業用戶和消費者能夠信任提供給人工智能模型的數據。

使用人工智能來掌握或清理數據需要主題專家來驗證預測決策。在我看來，為預測結果提供透明性的最佳方法是顯示AI管道和有助于達到預測最終狀態的有影響力的數據點或數據屬性。這可以以圖形或圖像的形式顯示為可視的關鍵性能指示器。

深度學習假設算法不一定提供真理，而是解釋了準確性的水平，其中每一層提取一個抽象的輸入數據，所以深度學習算法中的每一層都有自己的功能，它會扭曲最終的預測決策。算法被設計來“衡量”數據點，并提出一個靈活的函數(如果你愿意)，可以適應新的數據點。由此產生的預測是一種可能，它來自于對不同數據點的組合和因式分解。

擁有干凈、最新、相關、高質量的數據更有可能產生有效的預測。

我們在人工智能領域觀察到的是，組織正在投入大量的時間和金錢，使人工智能更容易被消費者中的不同角色訪問。隨著我們不斷提高人工智能的粘性和投資回報率，我們將開始更多地關注人工智能提出的自動化和前瞻性建議(即指令性分析)。隨后，可解釋的人工智能將提供一定程度的透明度，說明預測決策是如何產生的。

組織可以采取一些策略，在不暴露其知識產權的情況下，顯示達到可預測的最終狀態的透明度水平。大多數消費者不一定需要看到AI算法的設計(這是組織的知識產權)，而是需要對預測決策是如何產生的基本理解(如鏈接分析)。

我相信，對于消費者來說，首先了解哪些輸入參數影響了預測的決策，其次了解哪些數據點或屬性的組合產生了更高的預測決策的可能性，這將是更有益的。

如今，“黑盒邏輯”可能會成為組織面臨的主要挑戰之一，因為它們要努力解決使用人工智能和機器學習的自動化過程。

自動化對任何組織都是有益的，但我認為，鑒于人工智能模型的當前成熟度，人工智能需要掌控，而且必須始終將主題放在等式的中心。我的建議是使用人工智能進行建議和推薦，并讓主題專家驗證人工智能算法的結果。

這種策略的好處是，算法暴露在更大的數據集中，從而鞏固了它的知識庫，隨著時間的推移，它將嘗試模仿主題專家的響應，從而獲得更高的準確性。