可解釋的人工智能如何幫助人類創新

人工智能(AI)領域已經創造出可以駕駛汽車，合成化合物，折疊蛋白質并以超人水平檢測高能粒子的計算機。

但是，這些AI算法無法解釋其決策背后的思維過程。一臺掌握蛋白質折疊功能并告訴研究人員更多生物學規則的計算機比一臺無需解釋即可折疊蛋白質的計算機有用得多。

因此，像我這樣的AI研究人員現在正在將精力轉向開發可以以人類能夠理解的方式進行自我解釋的AI算法。如果我們能夠做到這一點，我相信人工智能將能夠發現并向人們傳授尚未發現的關于世界的新事實，從而帶來新的創新。

從經驗中學習

AI的一個領域稱為強化學習，研究計算機如何從自己的經驗中學習。在強化學習中，人工智能可以探索世界，并根據其行為獲得正面或負面的反饋。

這種方法導致算法可以獨立學習超人水平的國際象棋并在沒有任何人工指導的情況下證明數學定理。在我作為AI研究人員的工作中，我使用強化學習來創建AI算法，以學習如何解決諸如Rubik's Cube之類的難題。

通過強化學習，AI可以獨立學習解決甚至人類都難以解決的問題。這使我和其他許多研究人員對AI可以學習的內容的思考減少了，對人類可以從AI中學習的知識的思考減少了。能夠解決魔方的計算機也應該能夠教人們如何解決它。