【AI+民航】《人工智能（AI）和可解释人工智能（XAI）在空中交通管理中的应用综述：当前趋势和发展及未来研究轨迹》法国民航学院

2022 年 8 月 10 日 专知

由于航空业的发展和复杂性的增加，空中交通管理（ATM）在未来几十年将变得更加复杂，为了维护航空安全，必须加以改进。人们一致认为，如果不对这一领域进行重大改进，就无法实现国际组织规定的安全目标，并有可能发生更多的事件/事故。如今，计算机科学在ATM的数据管理和决策中发挥了重要作用。然而，尽管如此，作为计算机科学中研究最多的课题之一，人工智能（AI）还没有完全到达ATM领域的终端用户。在本文中，我们分析了人工智能在航空/ATM领域的实用性的现状。它包括过去十年人工智能在ATM领域的研究工作，相关趋势和特征的提取，以及代表性维度的提取。我们分析了一般的和ATM的可解释人工智能（XAI）是如何工作的，分析了哪里需要XAI，为什么需要XAI，目前如何提供XAI，以及局限性，然后将这些发现综合成一个概念框架，命名为DPP（描述性、预测性、规定性）模型，并提供了一个在2030年的场景中应用的例子。它的结论是，ATM中的人工智能系统需要进一步研究，以使其被终端用户接受。开发适当的XAI方法，包括由适当的机构和终端用户进行验证，是需要解决的关键问题。

关键词：空中交通管理（ATM）；人工智能（AI）；可解释人工智能（XAI）；以用户为中心的XAI（UCXAI）

1.简介

1.1. 空中交通管理

空中交通管理 (ATM) 是一个庞大而复杂的领域 [1]，涵盖了为确保空中交通的安全性和流动性而开展的所有活动。简而言之，ATM 旨在有效管理和最大限度地利用可用的不同资源，例如空域及其细分，如扇区（见图 1）、航线（见图 2）、机场、跑道——由资源的用户——例如飞机、航空公司——在他们使用资源的任何时间范围内——即在机场的滑行阶段，或通过三重爬升、巡航简化的任何飞行阶段，下降——同时确保飞行安全 [2]。这项任务是通过管理资源来实现的，即空域管理 (ASM)，管理飞机飞行前和飞行期间的全局需求，即空中交通流量和容量管理 (ATFCM)，以及管理避免飞机之间的间隔损失，即，避免一架飞机进入另一架飞机的隔离区（见图 3）——并向飞行的飞机提供本地信息，即空中交通管制 (ATC) [3]。

图1. 法国上层领空的区域划分[4]。

图2. 法国南部的航线网络图摘录。路线由航点--黑色和灰色的小点来定义。资料来源：EUROCONTROL。

如今，计算机科学在ATM的数据管理和决策中发挥着重要作用，即使人类仍然是主要的代理人，计算机科学仍然很重要，而且随着空中交通的增加--尽管实际的COVID情况[5]--及其复杂性--特别是随着无人机、e-VTOL等新航空器进入空域[6]，计算机科学更有可能在未来发挥更重要的作用。

人工智能（AI）作为计算机科学中研究最多的课题之一，应该是其中的一部分。

图3. 飞机的隔离区。来自Degas等人[7]。

1.2. 用于ATM的AI和XAI

人工智能 "一词最早于1956年用于第一个 "达特茅斯人工智能夏季研究项目"，一般指任何表现出与人类思维相关特征的机器，如学习和解决问题。从那时起，这门学科已经经历了几个 "夏天"，人们对它产生了浓厚的兴趣，而 "冬天"，人们对这个领域不感兴趣，与怀疑主义有关[8]。特别是，在2010年代，人工智能总体上经历了一次新的繁荣，受到越来越多地获得大量数据的推动，以及发现计算机图形卡处理器在加速学习算法的计算方面具有非常高的效率[9]。这种繁荣已经被一些重大的公共成功所实现，并促进了资金的投入，例如Watson-IBM的人工智能在电视游戏节目《Jeopardy》中战胜了两位冠军[10]，Google X能够让人工智能识别视频中的猫[11]，或者在十年后，AlphaGo及其后继者AlphaGo Zero战胜了围棋的世界选手之一[12]。可解释人工智能（XAI），即使人类能够理解（i）人工智能算法（即全局解释或可解释性），或（ii）其解决方案（即局部解释或论证）的方法和技术，与它所解释的系统密切相关，遵循同样的趋势，实际上已经进入第三代--根据Muller等人的说法[13]。空中交通管理中的人工智能也大致遵循同样的趋势，但有一些延迟。如下所示，在过去十年中，ATM中的人工智能大致从用于优化交通的人工智能系统发展到预测各种物体的人工智能系统，如预测4D轨迹。

尽管ATM人工智能的研究工作已有历史，但据我们所知，在ATM领域面临问题的研究人员并没有找到一般的指南来介绍如何解决这个问题（或类似的问题），也没有找到当前工作的局限性，这对这个领域及其发展是不利的。该领域存在一些评论，但它们是专门针对人工智能算法的一个类别--例如，元启发式算法[14,15]，多智能体系统[16]--，侧重于其他方面，例如，通信[17]，并且更注重技术而不是为最终用户的整合。

不幸的是，尽管在ATM领域已经进行了一些人工智能的研究工作，但它还没有 "完全投入使用"，也没有给终端用户带来任何好处。在ATM领域使用人工智能进展缓慢的原因是，ATM领域是一个关系到生命的关键领域，安全是最重要的。从历史上看，ATM的安全是通过人在回路中实现的，特别是但不限于空中交通管制员（ATCO），而且很可能，正如作者所争论的那样，将通过设计严格的以人为本的系统来发展，要求这些系统能被最终用户理解，并适应其特点--精神和身体以及心理状态。例如，如果操作者的工作量超过了他们的认知能力，或者发生了某种丧失能力的情况，他们的认知状态可以被系统自动检测到，并通过这种评估来沿着自动化的升级尺度自主地执行行动（即自适应自动化）[19,20]。在其他领域，如医疗保健和刑事司法等，人们对人工智能支持高后果的人类决策越来越感兴趣，这刺激了XAI和以用户为中心的可解释人工智能（UCXAI）领域[21]--以用户为中心的设计（UCD）是指在为终端用户设计系统以验证新算法/工作方法/交互技术时所采用的方法[22-25]。这个最基本的方面在ATM中还没有得到充分的评估，但人们的兴趣正在增长[26,27]。

基于前面的两个观察，本文的目标是描绘AI和XAI的趋势，并设定这些工作必须采取的轨迹，以达到终端用户。我们的主要研究问题源于前面的两个观察。

问题1：目前AI和XAI在ATM任务中的趋势是什么？
问题2：在ATM任务中使用AI和XAI会产生哪些限制？
问题3: 一般的XAI领域如何能使ATM中的AI和XAI受益？
问题4: 在ATM中使用一般的XAI会产生什么限制？
问题5：AI和XAI在这个领域的发展轨迹应该是什么？

为了回答这些问题，本文分为两部分。(i) 本文的第一部分致力于回顾过去十年人工智能在ATM中的研究工作，介绍所采用的方法（第2节），提取相关的趋势和特征，将这些工作归类为有代表性的组（第3节），并提取有代表性的维度，使我们能够创建一个代表这些工作的设计空间，然后用于分析出版物（第4节）。(ii) 本文的第二部分基于第一部分提取的维度，分析一般的和ATM的XAI工作，分析哪里需要XAI，为什么需要，目前如何提供，以及局限性（第5和6节），然后将这些发现综合为一个概念框架（第7节），然后应用于不同的场景（第8节）。最后，我们对本文的不同发现进行总结（第9节）。

专知便捷查看