本研究报告记载了由美国陆军未来司令部资助的“机协同与人工智能”项目研究分析工作。项目旨在调查陆军试图将士兵与人工智能(AI)算法配对以完成特定作战任务时可能遭遇的困境,并提出克服潜在障碍的建议,确保陆军有效开发能与士兵良好协同的AI系统。本研究在兰德阿罗约中心战略、条令与资源项目框架下实施。兰德阿罗约中心作为兰德公司分支,是由美国陆军资助的联邦研发中心。
人工智能、机器学习与机器人领域的最新进展表明,军事专业领域即将实现人类士兵与AI赋能的机器及应用系统的深度融合。AI赋能的机器与软件应用正展现适用于军事场景的能力,例如在复杂城市交通中自主行进、通过大语言模型生成类人化衍生作品等。但这并不意味着相关技术可顺利应用于军事领域:构建凝聚力强的微型作战单位本就艰巨——最优作战单元能在巡逻基地微光条件下凭借轮廓剪影和步态特征瞬间识别同伴;优秀参谋人员需长期内化指挥官的作战风格与特定需求。军事领域人机协同虽可借鉴民用经验,仍需大量场景化适配。为此,陆军未来司令部要求本研究团队评估人机协同的潜在影响,核心目标是探究陆军在配置"士兵-AI算法"作战单元执行特定任务时可能面临的困难,并提出克服障碍的建议,确保陆军有效构建能与士兵实现深度交互的AI系统。
本研究主要采用定性分析法,包含两大核心环节。首先基于文献综述探究陆军当前对人机协同的认知框架,将研究成果提炼为"接触行进"与"城市作战"两则探索性案例。通过这些案例识别陆军思维模式的关键特征。其次开展关于AI新兴原则的全面文献研究,涵盖人类与机器认知的"初始条件"、现有方法的实践挑战以及更具潜力的人机协同路径。
• 可解释AI与认知强制功能效果不及预期。学术研究中最显著的发现是:当前通过工程化解决方案提升人类对AI信任度的尝试存在缺陷。提高透明度的信任构建措施反而导致人类过度依赖AI输出(即便在AI判断不准确时)。这种信任构建困境尤为关键,因对AI的信任度是陆军首要关注点。
• 设计理念、信号传递与心智模型的持久价值值得关注。实现人机融合需更系统化地构建共享心智模型,并随时间推移在人与机器间建立交互记忆系统。这表明协同过程应显著延长——人类成员须更明确共享其心智模型,并将部队内隐性的交互记忆系统显性化以促进机器融合。人本化设计与人机信号传递虽能积极影响交互界面,但仅当人类深度参与解释自身行为(使机器学习适应)时才具实际价值。
• 地面作战筹划与执行领域的人机协同进程将慢于商业领域。主因在于陆军对信任机制的严苛要求、作战安全保密需要以及"人类参与关键决策"的政策导向。这在叙事研究中可见端倪:鉴于信任是职业军人的核心素养(亦是任务指挥哲学的根基),陆军需更长时间积累AI系统应用经验,使作战团队对人类元素建立充分适应。
• 陆军人机协同重点仍聚焦"机器适配人类"路径。但变革人类组织架构以适应机器的尝试同样值得探索:战术层面建议调整编组形式(如设立"机器监管岗");基础组织层面应改革研究开发测试评估(RDT&E)与采办体系(提升对AI迭代优化的响应速度)。深化协同更要求加强官兵对机器的专业培训:正如先前论断——人机协同作为社会技术系统,需在特定场景中积累设备操作经验。全体官兵须通过专业军事教育理解AI运作原理,这对指挥集成化人机单元(需实时解读机器输出行为)的分队指挥员尤为必要。特定岗位官兵(如部队AI系统管理员)则需精研专项设备操作,此培训体系应参照其他武器系统的进阶训练模式构建。
• 将新部署设备视同新兵编入作战单元。当陆军准备在作战单位部署机器系统时,其整合模式不应简单照搬武器系统列装流程。该过程应借鉴新兵完成基础训练后编入部队的模式:先承担复杂性较低的必备任务,待适应后再执行高阶任务。人类需主动向机器阐明操作细节以构建共享心智模型,包括详细解释"指挥官关键信息需求"(CCIR)、决策边界及标准作战程序。机器AI升级节奏须与部队训练周期同步——此时维护现有人机交互记忆与共享心智模型的价值,远高于追求AI准确率的边际提升。
• 预判差异化表现特性。若采取新兵编入式整合策略,陆军应接受同类部队间AI特性、性能及价值存在差异的必然性。本研究证实人机协同属社会技术建构体系,而人类个体差异本就导致各部队的标准程序、表现及文化存在区别,这将直接影响AI增强单元构建交互记忆与共享心智模型的方式。陆军对此应有充分预案。
• 监控信任建立与维系机制。尽管陆军在作战编成中整合机器面临诸多技术程序挑战(多数可通过设备优化解决),唯有人类方能应对的核心难题是建立并维持人机互信。随着机器深度融入作战编组与参谋体系,陆军须严密监控信任关系发展。可参照国防部监控"女性融入作战岗位"项目的双重框架:(1)追踪整合进程(2)预判重大挑战。这种方法虽与快速列装设备的战术需求存在张力,但人类对机器的信任只能通过渐进节奏构建。建议由训练与条令司令部主导监控工作,突显人机协同兼具技术性与行为科学双重属性。
• 坚守人类在协同体系的主导地位。随着国防部持续开发AI赋能的作战系统,美军陆军人机协同进程必将伴随希望、挑战、进步与挫折。多数技术演进源自民用领域,但军事行动中机器的角色必须始终定位于"辅助人类履行军事职责"。若人类丧失战场主导权,战术行动将脱离战争政治目的,沦为毫无意义的精妙暴力。