自動駕駛汽車可能很快就能像人類一樣做出道德和道德決策

自動駕駛汽車可以是道德的，像人類一樣行動，還是像人類期望人類一樣行事?與先前的想法相反，一項突破性的新研究首次發現人類道德可以被建模，這意味著基于機器的道德決策原則上是可能的。

研究，虛擬現實實驗調查人類行為和道德評估，來自奧斯納布呂克大學認知科學研究所，并發表在行為神經科學的前沿，使用沉浸式虛擬現實，讓作者研究模擬道路交通情景中的人類行為。

參與者被要求在一個有霧的日子里在一個典型的郊區街區開車，當時他們遇到了無生命的物體，動物和人類意想不到的不可避免的困境，并且不得不決定哪些是幸免的。結果由導致規則的統計模型概念化，具有解釋觀察到的行為的相關解釋力程度。研究表明，在所有不可避免的交通碰撞范圍內的道德決策可以通過每個人類，動物或無生命物體的單一生命值來解釋和建模。

該研究的第一作者LeonSütfeld表示，到目前為止，人們一直認為道德決策具有強烈的背景依賴性，因此不能用算法模擬或描述，“但我們發現恰恰相反。困境中的人類行為可以通過以下方式建模：一個相當簡單的基于生命值的模型，由參與者歸因于每個人類，動物或無生命的物體。“ 這意味著人類的道德行為可以通過機器也可以使用的算法很好地描述。

該研究的結果對于關于自動駕駛汽車和其他機器的行為的爭論具有重大意義，例如在不可避免的情況下。例如，德國聯邦運輸和數字基礎設施部(BMVI)的一項主要新舉措已經確定了20項與自動駕駛車輛相關的道德原則，例如，與不可避免事故情況下的行為有關，做出了關鍵假設人類的道德行為無法模仿。

該研究的高級作者戈登琵琶教授表示，由于現在似乎有可能將機器編程為使人類做出道德決定，因此社會必須進行緊急和認真的辯論，“我們需要問自治系統是否應該采取道德判斷，如果是的話，他們是否應該通過模仿人類的決定來模仿道德行為，他們是否應該按照道德理論行事，如果是的話，哪些是批判性的，如果事情出錯則是誰或什么是過錯?“

例如，在新的德國道德原則中，跑到路上的孩子將被歸類為與創造風險有關的重要因素，因此與站在人行道上的成年人相比，作為非參與方更難以保存。但這是大多數人持有的道德價值，解釋的范圍有多大?

“現在我們知道如何將人類道德決策納入機器，作為一個社會，我們仍然處于雙重困境之中，”該論文的高級作者PeterKönig教授解釋道。“首先，我們必須決定道德價值是否應該包含在機器行為準則中;其次，如果它們是，機器應該像人類一樣行事。”

這項研究的作者說，自動駕駛汽車只是一個開始，因為醫院和其他人工智能系統中的機器人變得更加普遍。他們警告說，我們現在處于一個新時代的開端，需要明確的規則，否則機器將開始在沒有我們的情況下做出決定。