《基于模型的路线推荐系统对决策的影响研究》180页

基于模型的决策支持系统（MDSS）在航空、应急管理、军事指挥与控制、医疗保健、核行动、情报分析和海上行动等许多后果严重的专业领域都非常突出。MDSS 通常使用任务和操作员的简化模型，对决策情况进行结构化处理，并向操作员提供对决策任务有用的信息提示。模型是一种简化，可能会被错误定义，并存在误差。采用和使用这些错误的模型会导致用户的决策贫乏。本文把决策者的这种贫乏状态称为 "模型盲"。我们进行了两个系列实验，以研究模型盲对人类决策和绩效的不利影响，以及如何通过可解释人工智能（XAI）干预来减轻这些影响。本论文还报告了模拟结果，通过展示模型盲区和模型盲区缓解技术对性能的影响来激发实验。实验将模拟路线推荐系统作为具有真实数据生成模型（不可观测世界模型）的 MDSS 来实施。在实验 1 中，生成推荐路线的真实模型以及额外的非推荐路线和相关属性信息被错误地指定为不同级别，从而对 MDSS 用户造成了模型盲区。在实验 2 中，同样的路线推荐系统采用了缓解技术，以克服模型失当对决策质量的影响。总体而言，这两项实验的结果几乎都不支持由于模型盲区而导致的性能下降，因为模型盲区是由错误的系统造成的。实验 1 和实验 2 中捕捉到的行为对参与者所处的不同误设统计环境的敏感性极低。有确凿证据表明，在不同条件下，推荐的替代方案以及参与者对这些方案的依赖或偏离都会产生影响。XAI 干预为了解参与者如何调整决策以考虑系统中的偏差以及如何偏离模型推荐的备选方案提供了宝贵的见解。参与者的决策策略表明，他们能够从反馈或解释中理解模型的局限性，并相应地调整策略以考虑模型中的错误规范。这些结果为评估决策策略在模型盲区汇合模型中的作用提供了有力支持。这些结果有助于确定在 MDSS 的开发、实施和使用阶段仔细评估模型盲区的必要性。

图 3. 为实验开发的路线推荐系统中使用的模型