可解释人工智能的军事应用前景分析

未来战争中，无人智能作战力量参与战争的比重将进一步加大，协同运用传统的“有人”作战力量和人工智能技术赋能的“无人”作战力量将成为重要作战形式，不可解释带来的“信任不足”极可能导致错失转瞬即逝的战机，限制军事智能应用发展。文中在定义可解释人工智能的基础上，研究分析了可解释人工智能的发展目标、主要方法和国内外现状，针对装备研发人员、作战指挥人员、任务执行人员、军备控制人员等用户对象剖析了对可解释性的不同需求，从增强协同效能、促进安全可控、加速装备研发、遂行攻击对抗等4个方面提出了可解释人工智能的军事应用前景。

随着人工智能技术的飞速发展，各类创新成果 持续涌现，人工智能应用已经进入人们生活的各个 方面，人工智能领域技术发展热度持续攀升、行业应 用层出不穷、投资规模逐年扩大，具有智能化特点的 武器装备也正在涌现，在经济、社会、科学、军事等领 域形成重要影响。然而，技术的进步往往是一把 “双刃剑”，人工智能在带来便利、引发变革的同时， 也对国家政治、经济和社会安全带来诸多风险和挑 战，不断引发网络安全、社会就业、法律伦理等问题， 可知、可控、可信逐渐成为人工智能发展中的关键问 题。发展可信人工智能的核心需要关注安全性、鲁棒性、公平性、隐私保护等各方面问题，而可解释性 是上述问题的技术核心。尤其是在军事领域，随着 协同运用传统的“有人”作战力量和人工智能技术 赋能的“无人”作战力量成为未来战争的主要特征， 如何更好地理解、信任并有效管理基于人工智能的 “无人”作战力量未来将成为人工智能大范围应用 的关键瓶颈，不可解释带来的“信任不足”将极有可 能错失转瞬即逝的战机，大大降低人工智能在辅助 决策和作战过程中的可用性和适用性。提高人工智 能的可解释性逐渐成为解决上述问题的重要方向。