《计算和学习博弈》美国空军、加州理工15页项目总结报告

该项目基于博弈论、不确定性量化和数值逼近等方法，致力于两个主要目标：（I）将它们应用于计算数学中具有实际意义的高影响问题；（II）它们向机器学习方向发展。本着这一目的，以及对概念/理论进步和算法/计算复杂性进步的双重强调，本计划的成就如下：(1) 我们开发了学习核的一般稳健方法，包括：(a) 通过核流（交叉验证的一种变体）进行超参数调整，并应用于学习动态系统和天气时间序列的外推；(b) 通过可解释回归网络（核模式分解）对核进行规划，并应用于经验模式分解。(2) 我们发现了一种非常稳健和大规模并行的算法，基于Kullback-Liebler发散（KL）最小化，计算密集核矩阵的反Cholesky因子的精确近似值，具有严格的先验复杂度与准确度的保证。(3) 我们引入了竞争梯度下降法，这是梯度下降法在双人博弈环境中的一个令人惊讶的简单而强大的概括，其中更新是由基础游戏的正则化双线性局部近似的纳什均衡给出。该算法避免了交替梯度下降中出现的振荡和发散行为，而且选择较大步长的能力进一步使所提出的算法实现更快的收敛。(4）我们开发了一个严格的框架，用于分析人工神经网络作为离散化的图像注册算法，图像被高维空间的高维函数所取代。(5) 我们引入了一种通用的高斯过程/核方法来解决和学习任意的非线性PDEs。(6) 我们引入了一个新的不确定性量化框架，解决了传统方法的局限性（在准确性、稳健性和计算复杂性方面）。