如何帮助人类理解机器人？哈佛、MIT专家为你解读

来源| 麻省理工学院
编辑| 专知翻译整理

如何帮助人类理解机器人？
麻省理工学院和哈佛大学的研究人员建议，将认知科学和教育心理学的理论应用于人机交互领域，可以帮助人类为其机器人合作者建立更准确的心理模型，从而提高合作工作空间的性能并提高安全性。

HRI2022：Revisiting Human-Robot Teaching and Learning Through the Lens of Human Concept Learning Theory(从人类概念学习的角度重新审视人机教学)

研究人机交互的科学家往往专注于从机器人的角度理解人类的意图，因此机器人学会更有效地与人合作。但人机交互是双向的，人类也需要学习机器人的行为方式。

由于数十年的认知科学和教育心理学研究，科学家们对人类如何学习新概念有了很好的掌握。因此，麻省理工学院和哈佛大学的研究人员合作，将完善的人类概念学习理论应用于人机交互的挑战。

他们检查了过去的研究，重点是人类试图教机器人新行为。研究人员发现了这些研究可以将两种互补的认知科学理论中的元素纳入他们的方法的机会。他们使用这些作品中的例子来展示这些理论如何帮助人类更快、更准确、更灵活地形成机器人的概念模型，从而提高他们对机器人行为的理解。

为机器人建立更准确的心智模型的人类通常是更好的合作者，当人类和机器人在制造和医疗保健等高风险情况下一起工作时，这一点尤其重要，Serena Booth 说，她是互动机器人小组的研究生。计算机科学与人工智能实验室（CSAIL），该论文的主要作者。

“无论我们是否试图帮助人们建立机器人的概念模型，他们无论如何都会建立它们。这些概念模型可能是错误的。这会使人们处于严重的危险之中。重要的是，我们尽我们所能为那个人提供他们可以建立的最佳心理模型，”Booth说。

Booth 和她的导师 Julie Shah 与哈佛大学的研究人员合作，共同撰写了这篇论文。Julie Shah是麻省理工学院航空航天学教授，也是交互式机器人小组的负责人。Elena Glassman是哈佛大学John A. Paulson工程与应用科学学院的计算机科学助理教授，在学习理论和人机交互方面具有专业知识，是这个项目的主要顾问。哈佛大学的合著者还包括研究生Sanjana Sharma和研究助理Sarah Chung。这项研究在IEEE人机交互会议上发表。

01 理论方法

研究人员使用两个关键理论分析了 35 篇关于人机教学的研究论文。“类比迁移理论”表明人类通过类比学习。当一个人与一个新的领域或概念进行交互时，他们会隐含地寻找他们可以用来理解新实体的熟悉的东西。

什么是人类概念学习？ 人类概念学习的认知理论解释了人类如何理解复杂的高维现象并对未揭示的事实和未来做出预测——因此，这些理论可用于帮助人类了解机器人在世界上的行为方式。我们着眼于两个互补的理论，类比转移理论和学习的变异理论，以告知界面如何最好地调解人类学习机器人行为的实践。

变异理论支持人类将核心知识与表面或附带细节区分开来，类比迁移理论支持人类将知识转移到新概念或新现象。变异理论规定了方差和不变性的有序序列，以帮助人类将核心行为与表面或附带的细节区分开来，而类比转移理论则通过将新的和未知的概念与熟悉的实体对齐来规定知识转移。这些理论共同为人机交互界面和算法提供了设计指导，即关于机器人行为的选择、顺序和呈现。

“学习的变异理论”认为，策略变异可以揭示一个人可能难以辨别的概念。它表明人类在与新概念交互时会经历一个四步过程：重复、对比、概括和变化。

Booth说，虽然许多研究论文包含了一种理论的部分要素，但这很可能是偶然的。如果研究人员在工作开始时就参考了这些理论，他们可能能够设计出更有效的实验。

例如，在教人类与机器人互动时，研究人员经常向人们展示机器人执行相同任务的许多示例。但是为了让人们建立一个准确的机器人心智模型，变异理论表明他们需要看到机器人在不同环境中执行任务的一系列示例，并且他们还需要看到它犯错。

“这在人机交互文献中非常罕见，因为它违反直觉，但人们还需要看到负面例子来理解机器人不是什么，”Booth说。

这些认知科学理论也可以改进物理机器人设计。Booth 解释说，如果机械臂类似于人类手臂，但运动方式与人类运动不同，那么人们将难以建立机器人的准确心智模型。正如类比转移理论所建议的那样，由于人们将他们所知道的——人类手臂——映射到机器人手臂，如果运动不匹配，人们可能会感到困惑并且难以学习与机器人互动。

02 增强解释

Booth和她的合作者还研究了人类概念学习理论如何改进解释，以帮助人们建立对不熟悉的新机器人的信任。

“在可解释性方面，我们有一个非常大的确认偏差问题。通常没有关于解释是什么以及人们应该如何使用它的标准。作为研究人员，我们经常设计一种解释方法，它对我们来说看起来不错，然后我们将其发布，”她说。

相反，他们建议研究人员使用人类概念学习的理论来思考人们将如何使用解释，这些解释通常由机器人生成，以清楚地传达他们用来做出决策的政策。Booth说，通过提供帮助用户理解解释方法的含义、何时使用以及不适用的地方的课程，他们将对机器人的行为有更深入的理解。

根据他们的分析，他们就如何改进人机教学研究提出了一些建议。一方面，他们建议研究人员通过指导人们在学习使用新机器人时进行适当的比较来结合类比转移理论。Booth说，提供指导可以确保人们使用合适的类比，这样他们就不会对机器人的行为感到惊讶或困惑。

他们还建议，包括机器人行为的正面和负面例子，并让用户了解机器人“策略”中参数的战略变化如何影响其行为，最终跨越战略变化的环境，可以帮助人类更好更快地学习。机器人的策略是一个数学函数，它为机器人可以采取的每个动作分配概率。

“多年来，我们一直在进行用户研究，但我们一直根据自己的直觉从臀部拍摄，以了解什么对向人类展示有帮助或无用。下一步将更加严格地将这项工作建立在人类认知理论的基础上，”Glassman说。

既然使用认知科学理论的初步文献综述已经完成，Booth计划通过重建她研究的一些实验来测试他们的建议，看看这些理论是否真的能改善人类学习。

这项工作得到了美国国家科学基金会的部分支持。

03 成果在【ACM/IEEE International Conference on Human-Robot Interaction (HRI) 2022】发表

标题
Revisiting Human-Robot Teaching and Learning Through the Lens of Human Concept Learning

作者 Serena Booth，Sanjana Sharma，Sarah Chung，Julie Shah，Elena L. Glassman

摘要在与机器人交互时，人类会形成概念模型（质量参差不齐）来捕捉机器人的行为方式。这些概念模型只是通过观察机器人或与机器人互动而形成的，无论有没有有意识的思考。一些方法选择和呈现机器人行为以改进人类概念模型的形成；然而，这些方法和更广泛的 HRI 尚未参考人类概念学习的认知理论。这些经过验证的理论提供了具体的设计指导，以支持人类更快、更准确、更灵活地开发概念模型。具体而言，类比迁移理论和学习变异理论已成功应用于其他领域，并为 HRI 社区提供了关于机器人行为选择和呈现的新见解。运用这些理论，我们回顾并分析了 35 部先前在人机教学中的作品，并评估这些作品如何融入或省略这些理论的设计含义。从这篇综述中，我们发现了算法和界面的新机会，可以帮助人类更轻松地学习机器人行为的概念模型，这反过来又可以帮助人类成为更有效的机器人教师和合作者。

paper http://www.slbooth.com/HRI_2022_HCL_for_HRI.pdf