降低AI和基于機器學習的醫療技術的風險

人工智能和機器學習(AI / ML)日益改變著醫療保健行業。從發現惡性腫瘤到讀取CT掃描和乳房X線照片，基于AI / ML的技術比傳統設備(甚至是最好的醫生)更快，更準確。但是，隨之而來的是新的風險和監管挑戰。

INSEAD決策科學助理教授鮑里斯·巴比奇(Boris Babic)最近在《科學》雜志上發表了最新文章“醫學領域的監管鎖定算法” 。INSEAD決策科學與技術管理教授Theodoros Evgeniou;哈佛大學法學院Petrie-Flom衛生法政策，生物技術和生物倫理學研究中心的研究員Sara Gerke;哈佛大學法學院教授兼Petrie-Flom中心教務主任I. Glenn Cohen著眼于監管機構應對AI / ML陌生途徑的新挑戰。

他們考慮以下問題：在開發和實施AI / ML設備時，我們面臨哪些新風險?應該如何管理它們?監管機構需要關注哪些因素才能確保以最小的風險實現最大價值?

到目前為止，食品藥品監督管理局(FDA)等監管機構已批準具有“鎖定算法”的基于醫學AI / ML的軟件，即每次提供相同結果且不會隨使用而改變的算法。但是，大多數AI / ML技術的關鍵優勢和潛在優勢來自其隨著模型對新數據的學習而發展的能力。由于AI / ML的緣故，這些“自適應算法”成為可能，從而創建了本質上為學習型醫療保健系統的系統，其中研究與實踐之間的界限是多孔的。

鑒于此自適應系統的巨大價值，當今的監管者面臨的一個基本問題是，授權是否應僅限于已提交并評估為安全有效的技術版本，或者它們是否允許將更大價值的算法推向市場。可以從該技術的學習能力和適應新條件中找到。

作者深入研究了與此更新問題相關的風險，考慮了需要重點關注的特定領域以及解決挑戰的方式。

他們說，強有力的監管的關鍵是要優先進行持續的風險監測。

這組作者說：“為了管理風險，監管者應該特別關注持續監控和風險評估，而不是計劃將來的算法變更。”

隨著監管機構的向前發展，作者建議他們開發新的流程，以不斷監控，識別和管理相關風險。他們提出了可能有助于此目的的關鍵元素，并且將