IBM推出新平臺以解決AI決策中的偏見

IBM Corp.正在努力通過今天早些時候發布的新平臺緩解基于人工智能的決策中的偏見問題，該平臺可以告知人們AI模型如何得出結論。

該公司表示需要AI OpenScale，因為在做出最重要的決策時，相當多的企業根本不信任AI。主要問題是他們不確定自己的AI模型是否存在偏見。他們還希望對AI如何得出結論以及如何追蹤其邏輯有更多的了解，IBM說。

偏差是AI應用程序黑盒性質的副產品，這些應用程序并不總是揭示其決策背后的邏輯。偏差可以引入訓練數據以及機器學習邏輯中。消除這種像差可能是一項艱巨的數據科學練習。

在圣何塞的IBM Research Almaden研究中心的副總裁兼實驗室主管Jeff Welser在周四接受SiliconANGLE采訪時說，偏差并不總是容易被識別。“如果您擁有非常龐大的數據集，您甚至可能沒有意識到數據對性別或您正在分析的內容略有偏見，” Welser說。

AI OpenScale平臺(現已普遍提供)旨在通過算法來糾正偏差問題，該算法能夠在運行中的所有AI應用程序中對其進行檢測和糾正。

它通過持續監控AI應用程序并應用“自動去偏技術”來標記傾向于在機器學習模型中累積的偏見來工作。該軟件記錄每個預測，模型版本和所有培訓數據，以幫助組織通過簡單的英語解釋來理解AI應用程序如何做出決策。

“因此，現在我們有了分析數據集的系統，并查看它們在特定特征集中是否被過多代表，” Welser說。“這可能是您對這些特征的訓練過度。”

AI OpenScale通過使使用任何開源機器學習或深度學習模型構建的應用程序能夠在任何通用環境上運行，還有助于簡化AI模型的部署。其中包括IBM自己的Watson和PowerAI平臺，Seldon開源框架，Amazon Web Services Inc.的SageMaker和Microsoft Corp.的AzureML等。

此外，該平臺還配備了神經網絡綜合引擎，IBM稱該引擎將使企業能夠快速，自動地構建神經網絡以從頭開始運行AI。NeuNetS最初在AI OpenScale中作為beta功能提供，是為不具備工程能力來構建自己的神經網絡的公司設計的。