《比较人工智能辅助决策与人类辅助决策之间信任的判断和时间演变》最新109页

决策辅助系统是国防指挥与控制装置的基础，为各级决策过程提供信息。围绕人工智能（AI）在决策辅助系统中的应用开展的现有研究认为，人工智能是此类系统性能和应用的关键驱动因素。然而，很少有研究探讨时间因素和中间决策的存在对决策者对此类系统信任度的影响，或者当决策由另一个人辅助时，与由人工智能辅助时的影响有何不同。现有文献认为，对人工智能的信任不同于其他信任对象。本论文通过探究信任的产生是否更多地取决于信任的对象或来源来探索这一假设。之前的一项实验研究了当决策支持仅由人工智能系统提供时，时间和中间判断对信任的影响。本论文对该实验进行了扩展，同时操纵了决策辅助的来源，即人类，而不仅仅是人工智能。通过加入人与人之间信任的基础案例，本研究可以就中间判断和时间对决策辅助系统信任的相对影响进行比较分析。

决策辅助系统是美国防部（DOD）指挥与控制机构的基础，为各级决策过程提供信息。团队是美国军队组织和完成任务的主要要素。美国防部打算通过将人工智能嵌入战术、组织和战略层面的组织结构（团队），更快地做出更好的决策，从而获得优势（国防部，2022、2023a、2023b）。围绕人工智能（AI）在决策支持系统中应用的现有研究表明，信任是此类系统性能和采用的关键驱动因素。

问题在于，人们尚未充分认识到若干设计参数对信任和性能的影响，这可能会延迟或抵消人工智能决策支持系统的优势（Ashoori & Weisz, 2019; Tangredi & Galdorisi, 2021）。由于这些系统将用于做出关键决策，或在动态、混乱的环境中为人类提供支持，因此这些系统必须值得信赖且性能良好（Baboş，2021；人工智能特设委员会，2023）。本研究的目的是，与人工智能（AI）相比，当人类的决策过程得到人类分析师的支持时，研究自变量（中间判断和时机）对因变量（信任）的影响。这项研究旨在促进人机系统的整合，实现有效的机器/人工智能设计并更快地应用于军事领域，加强这些机器的稳健性和复原力，并为设计有效的人机系统提供支持理论。

之前的一项调查试图了解在仅与人工智能辅助决策系统互动时，信任是如何随着时间的推移而演变的（Humr 等人，2023 年）。本调查比较了当决策支持来源是人类分析师和人工智能分析师时，信任度是如何演变的。通过操纵决策支持的来源，本调查旨在比较人类和人工智能群体的信任度和表现，并分析人类和人工智能群体本身的自变量的影响。

现有文献的基本假设是，人类决策者对人工智能决策支持系统产生信任的过程不同于决策者对提供相同决策支持的另一个人类产生信任的过程。这一假设在人工智能研究中基本上没有受到质疑。虽然人工智能系统中信任和性能的关键驱动因素须要并将继续得到确定，但值得确定的是，它们与现有的以人类之间的信任为基本情况的信任模型相比有何不同。这种调查可能会挑战现有的假设，即人类建立信任的过程因信任对象的不同而不同。按理说，无论是人类还是人工智能，信任决定都是由人类主体做出的，可能会也可能不会受到人类所信任的对象的影响。

现有文献表明，人类建立信任的过程更多地取决于信任的对象（被信任的人或事物），而不是信任的来源（决定信任的人类）。鉴于人工智能系统的新颖性和细微差别，以及它们与人类的生物和社会禀赋的截然不同，当决策支持、信任对象是人工智能系统而非人类时，决策背景下的信任模型会有所不同这一假设通过了表面有效性的检验。然而，本次调查对现有文献中这一近乎教条的假设提出了质疑，直接探讨了人类对人工智能的信任是否与人类对其他人的信任有本质区别。毕竟，人类的信任过程已经发展了数千年，而机器和人工智能的存在不过是进化过程中的一眨眼。

这项研究试图扩展之前的一项实验（Humr 等人，2023 年），在这项实验中，人工智能分析师为人类决策者提供意见。在该研究中，操纵的自变量是中间判断形式的选择和分配的时间。因变量是信任评价，其形式是询问受试者在与决策支持体互动后，未来将某项任务委托给人工智能的可能性有多大。这项研究重复了之前的实验，但用人类分析师代替了人工智能分析师。其他一切保持不变，以便在人类支持组和人工智能支持组之间进行比较。

这项研究发现，在由人类与人工智能系统支持决策的受试者之间，信任评价在统计学上没有显著差异。这些发现与人工智能信任研究领域的传统假设相冲突，即人工智能信任是一种与一般信任根本不同的现象，因此需要独立表达。

虽然这些发现并不能概括所有类型的信任、人工智能的使用案例或人类可能与之互动的人工智能类型，但它确实表明，与试图重新发现人工智能或人工智能系统中可能使其值得信任的方面相比，更努力地识别人类之间信任的关键驱动因素对于设计可信任的人工智能可能更有价值。本研究建议未来的实验探索信任的另一个关键驱动因素，即决策支持（人工智能或人类）的性能，并将其对信任的影响与本实验中使用的自变量进行比较。此外，本研究还建议调查选择和时机这两个自变量如何影响决策者的整体决策表现。毕竟，信任是影响绩效的一个中介变量，因此，通过直接观察这些自变量对绩效的影响，决策支持系统的设计者就能建立尽可能好的系统。