信任已经成为人类与人工智能系统互动的一个关键因素。然而,人们对什么样的信任模式和什么样的系统知之甚少:机器人、虚拟人物、智能车辆、决策辅助工具或其他。此外,目前还没有已知的标准方法来衡量人工智能的信任。本综述从模型、措施和方法的角度对人与人工智能交互(HAII)中的信任状况进行了描述。研究结果表明,信任是HAII背景下一个重要的、多方面的研究课题。然而,大多数工作的理论化程度不高,报告也不充分,一般不使用既定的信任模型,也缺少方法的细节。我们为系统性审查工作提供了几个目标,并结合当前文献的优点和解决其缺点提供了研究议程。

1 导论

人工智能被定义为 "制造智能机器,特别是智能计算机程序的科学和工程"[34:2]。对于什么是人或机器 "智能",人们有不同的理解[53]。它可能被描述为未来式的、类似人类的,也可能被描述为理性的,像现在的人工智能[25]。人工智能系统正变得无处不在,越来越多地被非专业人士使用和认可。常见的例子包括苹果公司的虚拟助理和互联网搜索引擎Siri,一个用于智能手机和其他使用iOS操作系统设备的语音问答应用程序,以及软银的人形机器人Pepper,最近已经退役,但被确立为店面形象和研究工具。这些基于人工智能的现代技术建立在智能系统的基础上,旨在支持人类的工作,特别是控制系统的自动化[21,27]。此外,它们在体现形式上也越来越社会化[14,17,47]。Siri是对话式的(尽管范围有限),Pepper努力与人进行眼神交流,并阅读与之互动的人的情绪。他们的前辈和智能表亲--飞机和车辆可能就不是这样了。然而,在所有情况下,人们都在与一台具有某种可感知智能的机器互动。我们还可以认识到一个与这种模拟智能相关的持久模式:卸载人类劳动,特别是认知过程,以及代替人类提供这种劳动的系统,这些概念交织在一起。随着这些注入人工智能的系统继续被公众和专家所接受,我们非常有必要评估其中的基本人类因素。

信任被认为是人与人之间,以及人与机器之间人际关系的一个重要因素。来自不同学科的研究人员已经研究了信任在调解个人之间、个人与组织之间、甚至组织之间关系中的作用[27]。但是,信任的重要性并不限于人与人之间的互动;它也被强调为人与计算机[32,46,48]、人与机器人[9,19,39,45]以及人与自动化[21,27,36]之间的关键因素。最近关于人们与人工智能技术互动的工作表明,信任需要更多关注。例如,一项调查发现,许多人对基于人工智能的技术有负面印象,48%的美国人表示他们永远不会坐上自动驾驶汽车[50]。日本的一项研究表明,平均而言,超过57%的人对在工作场所与人工智能合作感到不舒服[35]。这种对人工智能的犹豫不决可能有多种来源。一个可能是人工智能的独特性质。机器学习(ML)是当前人工智能技术的核心,由算法和数据训练组成:这种黑盒式的、不透明的状态导致了对可解释人工智能或XAI的呼吁[5]。此外,ML可能涉及到用新的数据进行重新学习,并不总是从相同的输入产生相同的输出。具备 "思想 "的人工智能可以像人的思想一样不可知和不可预测,这使得与人工智能注入的系统的互动成为信任的问题。事实上,从早期开始,信任就是人工智能相关会议的一个重要主题,尤其是最近,它已经成为人与人工智能互动(HAII)研究中的一个关键词[3]。

研究人员的高度兴趣导致了一个新兴的、多样化的工作体系。然而,人们对信任的定义、理论和模型的使用以及对人工智能系统的使用知之甚少。最近的文献综述已经开始追踪这些工作[16,52]。Glikson和Woolley[16]回顾了关于所有形式人工智能中信任的实证研究,研究了构成人类对人工智能信任的因素,但没有研究如何评估这些因素。Vereschak等人[52]专注于人工智能决策支持的背景,回顾了研究人类和人工智能之间信任的方法并提供了实用指南。现在缺少的是一个普遍的观点,包括模型和措施,而不考虑系统类型和背景。此外,我们还不知道有什么标准方法可以在人们与这些人工智能系统互动时衡量信任。到目前为止,还不清楚如何在HAII的背景下定义信任或衡量它。

现在迫切需要的是一张迄今为止HAII研究进展图谱,以澄清 "信任 "的含义,发现已经使用的模型(如果有的话),并确定如何评估信任。为此,我们对HAII文献中的信任进行了范围审查,从最早的例子到现在,涵盖了一系列广泛的人工智能注入的系统。我们问:

  • HAII研究中如何定义信任?(RQ1)
  • 在HAII研究中是如何衡量信任的?(RQ2)

这项工作的主要贡献有三个方面。首先,我们全面总结了在HAII背景下如何将信任概念化和测量的技术现状。为此,我们对定义、模型和措施进行了严格的分析。特别是,我们确定了两个在以前的评论中没有涉及的重要问题:实证研究通常没有使用既定的信任模型;对人工智能系统有影响的常见评价方法--Wizard of Oz,似乎报告不足。其次,我们确定了一份系统回顾工作的目标清单。最后,我们为实证工作提出了几个目标。我们的目的是为未来涉及系统回顾和实证研究的工作打下基础。

成为VIP会员查看完整内容
11

相关内容

人工智能(Artificial Intelligence, AI )是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。 人工智能是计算机科学的一个分支。
【AI+军事】最新22页PPT,解读人工智能军事应用
专知会员服务
92+阅读 · 3月14日
专知会员服务
88+阅读 · 2020年3月19日
“人工智能,有必要像人类一样吗?”
THU数据派
0+阅读 · 8月4日
干货 | 可解释的机器学习
AI科技评论
15+阅读 · 2019年7月3日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Arxiv
14+阅读 · 2021年11月27日
Arxiv
13+阅读 · 2021年6月30日
Directions for Explainable Knowledge-Enabled Systems
Arxiv
22+阅读 · 2020年3月17日
Arxiv
10+阅读 · 2018年3月22日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
微信扫码咨询专知VIP会员