【牛津博士论文】无限维空间中的广义变分推断

本论文针对当参数空间为无限维函数空间时的变分推断（Variational Inference, VI）与广义变分推断（Generalised Variational Inference, GVI），建立了一套严谨的数学理论。在对 VI 与 GVI 的理论理解得到深化的基础上，我们提出了若干新的方法，通过引入无限维变分参数或采用无限维梯度下降方法来求解 VI 与 GVI 的优化问题。

尽管 GVI，尤其是 VI，先前已经被用于函数空间推断，但人们一直忽略了参数空间的无限维特性。这一局限阻碍了新推断方法的发展，而这些方法的提出有赖于对支撑 VI 与 GVI 的数学结构的深入理解。 本论文弥补了这一空白，通过引入无限维分析与概率论中的数学概念，推动了相关理论的发展。具体而言，我们利用巴拿赫空间（Banach space）中的高斯随机元来形式化函数空间推断下的 VI 与 GVI，从而能够使用新的分析工具——例如 Wasserstein 梯度流 或 高斯测度空间中的参数化方法——来求解 VI 与 GVI 的优化问题。

最终，我们构建了函数空间中 GVI 的严格理论，并提出了多种具有竞争力的新型不确定性量化算法，例如 高斯 Wasserstein 推断、深度排斥朗之万（Langevin）集成方法以及投影朗之万采样。所有方法均从同一个 GVI 目标严格推导而来，我们的理论还统一了函数空间与参数空间中若干不确定性量化方法。