對于機器人可靠性可能比推理更重要

一個人信任機器人需要什么?這就是陸軍研究人員在一項有關人與機器人如何協同工作的新研究中發現的東西。對人員代理團隊或HAT的研究已經檢查了人員(例如機器人，無人駕駛車輛或軟件人員)的透明度如何影響人員的信任度，任務績效，工作量和對人員的看法。代理透明性是指其向人類傳達其意圖，推理過程和未來計劃的能力。

由陸軍領導的新研究發現，即使機器人在推理過程中是透明的，但一旦犯錯，人們對機器人的信心就會下降。論文“人機交互中的代理透明性和可靠性：對用戶信心和感知可靠性的影響”已發表在8月刊的IEEE-Transactions on Human-Machine Systems上。

迄今為止，研究主要集中在具有完全可靠的智能代理的HAT上，這意味著代理不會犯錯，但這是探索代理透明性與代理可靠性如何相互作用的少數研究之一。在這項最新研究中，人類目睹了一個機器人犯了一個錯誤，并且研究人員著重研究了人類是否認為機器人的可靠性不高，即使人類已經了解了機器人的推理過程。

“了解機器人的行為如何影響他們的人類隊友，對于有效的人類機器人團隊的發展以及團隊成員之間的接口和交流方法的設計至關重要，”該項目的首席研究員兼研究員朱莉婭·賴特博士說。在美國陸軍作戰能力發展司令部的陸軍研究實驗室(也稱為ARL)。“這項研究有助于陸軍的多域作戰工作，以確保人工智能功能的超匹配。但這也是跨學科的，因為其發現將為心理學家，機器人手，工程師，

這項研究是ARL與中央佛羅里達大學模擬與培訓學院的共同努力，也是由國防部長辦公室的自治研究試點計劃贊助的自治小隊成員(ASM)項目的第三項也是最后一項研究。ASM是與步兵小隊互動并與之通信的小型地面機器人。