使用人工智能驱动的机器智能体来增强人类认知活动展现出广阔的潜力,新的云服务也在定期发布。然而,在传统应用中快速使用这些服务需要超出普通用户技术水平的技术技能。开发者需构建或扩展应用程序以利用这些服务,这常常延迟了这些服务向用户提供的可用性。聊天机器人式的对话界面试图解决这一问题,但更倾向于简单的交互。为支持更丰富的解决方案,提出通过人与机器智能体共同构建任务相关信息来实现知识共享。具体来说,是支持多种模态和一系列具体程度的共享知识——从快速获取的流动信息到更正式定义的知识。此外,用户应能调用相关的云服务,并快速建立与这些服务相称的信任水平。通过共同构建来融合知识,可以超越当前机器智能体集成中常见的简单对话交互或定制应用程序,实现更快、更丰富的协作机制。
本文引入“人-智能体知识融合”(HAKF)作为一个概念框架,以支持多模态知识的共同构建,并支持人-智能体团队在特定任务和时间受限的问题解决活动中进行协作。具体而言,HAKF 强调了可解释人工智能对于快速建立信任的必要性,以及可讲述人工智能对于流畅知识交换的必要性。论文定义了一个名为“认知速写”(Cogni-sketch)的 HAKF 开源实例化平台,该平台支持以下实验:(1)由人类主导的、针对开源情报分析的信息觅食、意义建构和故事讲述;(2)来自机器智能体和数据源的信息融合,并与人类分析师协同工作。(1)的结果表明,用户成功完成了任务,并同时推进了多项意义建构活动。(2)的结果,重点展示了机器视觉和物体识别的融合,证明了机器智能体共同构建的知识可供人类用户使用。
通过 HAKF 和“认知速写”,展示了强大而灵活的解决方案的潜力,使得人与机器智能体之间能够开展与任务相关的问题解决活动,范围涵盖从信息收集与组织到意义建构与故事讲述。
第 2 章以文献综述的形式提供了与 HAKF 及其在意义建构中应用相关研究的背景材料,考虑了对人类用户和机器智能体都重要的一般性通信因素。第 3 章引入了 HAKF 的概念,以支持人-智能体团队集体解决问题,并指出了在任何实施中都必须支持的具体方面。同时描述了与军事利益相关者举行的一次设计思考研讨会,以及这如何帮助明确 HAKF 所需的能力。第 4 章概述了作为 HAKF 实例化的实验性“认知速写”平台。本章首先简要评估了现有的相关工具和技术,然后定义了“认知速写”的范围、它如何支持 HAKF 所需的能力以及用于定制和集成机器智能体的各种扩展点。第 5 章重点关注机器智能体及其基于自身处理或分析能力做出与任务相关贡献的能力。这些贡献大体上与可解释性流程的示例相一致,并通过试点评估和一些对话解释来表达,以展示多种行为。第 6 章将重点转向人类用户通过可讲述性流程成功进行意义建构的能力,以及以对人类用户在视觉和认知上有用的形式创建相关材料。与一名情报分析师进行的试点练习为后续正式实验的设计和执行提供了信息,该实验旨在测量 12 名人类参与者的意义建构行为和结果。对试点和实验的结果进行了分析和报告。最后,第 7 章总结了各项贡献,呈现了 HAKF 研究活动的简要时间线,总结了一些额外的示例用例,并提出了未来潜在的扩展和进一步的研究领域。它还强调了大型语言模型技术的最新进展,这些进展高度相关但未在本论文中涵盖,因为它们是在所报告的研究完成之后出现的。论文还有三个附录:附录 A 包含了关于“认知速写”平台的额外细节以及代码、文档和视频演示等资源的链接。附录 B 包含了从第 6.4 章描述的人类意义建构实验中获得的完整数据集,以及对 12 名参与者在实验期间创建的制品的定性评估。附录 C 包含了一些与第 3 章第 3.2 节报告的设计思考研讨会相关的额外有用信息。