《结合机器人行为以实现安全、智能的执行》

这个项目的目标是开发一个框架，在这个框架中，不同的认知技能和行为可以被结合起来，产生智能和安全的机器人行为。美国防部自主性委员会最近发现了自主性和人工智能研究中的一个问题；即正在产生的大多数人工智能行为基本上是独立工作的，如果没有重大的研究和开发努力，就无法与其他行为或技能相结合。

为了说明这一点，请考虑一个机器人，它的工作是在一个安全设施周围巡逻，只需完成几个简单的任务：确保它看到的每个人都被授权在那里，并扫描大楼以确保实验室和办公室的门在没有人的时候总是关闭和安全。现在，假设该设施的主管来到机器人身边，与它并肩而行，要求它报告其一天的工作情况。机器人应该怎么做？机器人可以获得相关的行为和知识（它知道如何巡逻，它知道如何和人类一起走过走廊，它的各个行为都知道它们当天做了什么），但它没有被明确设计为一起做这些事情。

完全处理这种情况需要机器人超越执行孤立的、独立的行为的模式，在任务执行和知识方面结合其组成行为。例如，它对做什么的推理，要求机器人考虑与主管交谈或继续执行其巡逻期限的相对效用。例如，最高效用的行动方案是同时追求两个潜在的目标，在继续沿着走廊巡逻时与主任交谈；但这种交错的行为引起了潜在的安全问题，在制定行动计划时需要加以考虑（例如在转身看门口时要确保不碰到人类）。它向主管报告当天的情况时，需要机器人将当天执行的行为的知识汇总到一个全面的知识库中，以便提供一个智能的、有意义的报告。随着我们朝着合格的战术机器人在战场上工作的目标迈进，这些问题将更加需要解决，以确保机器人能够安全和智能地协助作战人员。

在这项工作中，我们的目标是开发一个框架，通过研究这两个重要的问题，采取步骤将单个行为和技能结合起来：（1）我们如何选择在任何特定时间执行和交错的行为和技能，同时考虑实用性和安全性？ 2）在执行不相关的技能和行为时，如何有意义地结合知识，以支持智能行为？