【知识嵌入】《利用主题知识优化机器学习技术在航空和空间的应用》美国空军技术学院2022最新129页博士论文

在这项研究中，我们开发了机器学习和统计方法，这些方法通过纳入主题知识量身定做空军应用。特别是，我们开发了将主题知识纳入神经网络、贝叶斯回归和结构性因果模型的技术。这些技术是在三个独立的应用领域中开发的：在晶体材料的透射电子显微镜（TEM）中定位点缺陷；估计战斗机飞行员群体的属性与飞行事故率之间的关系；以及分析空军评估过程。

我们的第一个贡献是使用主成分分析（PCA）和卷积神经网络（CNN）在结晶材料的TEM图像中定位点缺陷的新方法。值得注意的是，PCA-CNN方法的设计利用了关于晶体材料中点缺陷的知识。此外，该方法是一种自我监督的方法，在没有标记的点缺陷图像的情况下进行训练，因此，代表了一种新的方法学贡献。我们表明，定制的PCACNN方法在模拟和实验的TEM图像上都优于CutPaste，这是一种先进的人工智能（AI）模型，用于缺陷定位方法。

图 4. 基于 PCA 的缺陷检测方法的方法总结为蓝色边框的步骤。蓝色边框之外的步骤是将 CNN 分类模型纳入缺陷检测方法所必需的额外步骤。

我们的第二个贡献是通过使用预测预测和贝叶斯回归揭示了战斗机飞行员群体的属性与飞行事故率之间的关系。我们使用2007-2020年的人员和事故数据，对战斗机飞行员社区内的历史趋势进行了深入分析。在我们对历史事故数据的分析中，我们发现在B级和C级事故之间的临界点附近有异常的事故成本估计行为的证据。使用贝叶斯回归法，通过预测选择特征，我们发现，去年平均飞行时间较高的飞行员群体与事故率的降低有关。飞行员中，有较高比例的总干事、知识产权和高级学术学位的飞行员也与事故率的降低有关。

图 19. 美国空军战斗机飞行员早期职业道路总结。

最后，我们展示了贝叶斯先验的使用，以纳入从先前关于不测安全的定性研究中获得的主题知识。我们的第三个贡献是提供了一个框架，利用与空军评估过程相关的数据来估计因果效应。空军评估过程是独特的，因为引起观察数据的因果关系往往是已知的。例如，政策规定了哪些因素可以和不可以被晋升委员会考虑。我们使用结构性因果模型来表示我们对评价过程的了解。在线性因果模型的假设下，我们推导出一个公式，，用于通过预测因子的对等协方差计算回归中的系数。这样就可以通过回归来估计与评价过程有关的因果量，并适当选择控制措施。