了解人們如何發展對AI的信任并為AI的使用提供信息

人工智能(AI)的使用可以與環境互動并模擬人類智能，因此有可能極大地改變我們的工作方式。成功地將AI集成到組織中取決于工人對該技術的信任程度。一項新的評論調查了人們如何發展對AI的信任的二十年研究。作者得出的結論是，AI表示或“體現”的方式以及AI的能力有助于建立信任。他們還提出了一個框架，以解決影響用戶對AI的認知和情感信任的要素，這可以幫助使用AI的組織。

由卡內基·梅隆大學和巴伊蘭大學的研究人員撰寫的評論發表在《管理學年鑒》上。

卡內基梅隆大學特珀商學院組織行為與理論副教授安妮塔·威廉姆斯·伍利解釋說：“用戶對人工智能的信任將是決定其在組織中的作用的核心。” “我們通過探索與不同的AI表示(例如，機器人，虛擬代理或嵌入式)交互的人們如何發展信任以及促進信任發展的AI特性，解決了信任的動態本質。”

具體來說，研究人員觀察了有形性(感知或觸摸的能力)，透明度(技術的操作規則和邏輯對用戶顯而易見的水平)和可靠性(無論技術是否表現出相同的預期行為)的作用。隨著時間的推移)。他們還考慮了任務特征(如何處理技術與人際關系的判斷)和即時行為(旨在提高人際關系的社交姿勢，例如主動傾聽和反應能力)。他們還研究了擬人化(對技術可以具有人類素質的看法)。

作者在Google學術搜索中搜索了1999年至2019年之間發表的有關人類對人工智能的信任的文章，確定了約200篇經過同行評審的文章和會議記錄。代表的字段包括組織行為，人機交互，機器人人機交互，信息系統，信息技術和工程。他們還使用了三個數據庫來識別另外50篇文章。最后，他們回顧了約150篇文章，介紹了人類對AI信任的實證研究。

作者發現，AI的表示在人們發展的認知信任的性質中起著重要作用。對于機器人AI而言，建立信任的軌跡類似于在人際關系中建立信任的軌跡，這種關系從低端開始并隨著更多的經驗而增加。但是對于虛擬和嵌入式AI，情況恰恰相反：隨著經驗的積累，高初始信任度下降。

作者還發現，表征AI的機器智能水平可能會緩和認知信任的發展，而高智能水平會導致在使用和體驗后獲得更高的信任度。對于機器人AI，高水平的機器智能通常會導致高信任度的更快發展。對于虛擬和嵌入式AI，高機器智能為維持最初的高度信任提供了可能性。透明度也是在虛擬和嵌入式AI中建立認知信任的重要因素，盡管可靠性與AI信任發展之間的關系很復雜。

擬人化對于情感信任的發展具有獨特的重要性，但其作用因AI的形式而異。對于虛擬AI，擬人化具有積極作用。對于機器人AI，效果好壞參半：人們傾向于喜歡擬人化的機器人，而不是看起來像機械的機器人，但這些類似于人的機器人也可能會引起不適和緊張感。

這組作者總結說，影響情感信任的因素與影響認知信任的因素不同，某些因素可能對每個人都有不同的含義。

為了將AI集成到組織的工作中，作者提出了一個框架。他們將使用AI的形式，機器智能的水平，諸如響應性和可靠性等行為視為影響人們如何在認知和情感上建立對AI信任的因素。

“信任可以預測對技術的依賴程度，而某人的信任與該技術的功能之間的對應程度(稱為校準)可以影響該技術的使用方式，”加州大學研究生院助理教授Ella Glikson說。這項研究的共同作者是巴伊蘭大學的工商管理專業。