【ETHZ博士论文】分布不确定性下的决策，234页pdf

在本论文中，我们提出一个统一框架，用以处理随机优化、机器学习和最优控制等领域决策问题中的分布不确定性。我们研究的核心是最优传输（OT）模糊集的概念，我们展示了它构成了一个非常丰富的分布不确定性模型，具备多种理想的几何、统计和计算属性。此外，OT模糊集自然地概括了鲁棒（即，范数有界的不确定性）和随机（一个固定分布，例如高斯分布）模型，并且能捕捉许多额外的现实世界不确定性现象（例如，分布偏移和黑天鹅事件）。

在提供了关于OT模糊集建模能力的简短教程后，我们研究基于最优传输的分布鲁棒优化问题，其中一个常被想象为自然的虚构对手可以通过改变一个规定的参考分布并承担有限的运输成本来选择不确定问题参数的分布。在这个框架中，我们展示了强化鲁棒性与各种变异形式和利普希茨正则化密切相关，即使运输成本函数不是（某种幂次的）度量。我们还推导出决策者与自然之间存在及可计算纳什均衡的条件，并通过数值方法证明，自然的纳什策略可以视为一个支持在极具欺骗性的对抗样本上的分布。最后，我们确定了一些实际相关的基于最优传输的分布鲁棒优化问题类别，即使损失函数或运输成本函数是非凸的，也可以通过高效的梯度下降算法来解决。

在这些结果的基础上，我们进一步提出一个分布鲁棒的估计框架，用于从噪声线性测量中估计一个未知参数，并专注于分析此类估计器的平方误差。我们的研究是在现代高维比例制度下进行的，其中环境维度和样本数量均向无穷大发展，按比例率编码问题的欠/过参数化情景。在假设各向同性高斯特征下，我们展示了平方误差可以作为一个凸凹优化问题的最优解被恢复，令人惊讶的是，该问题最多涉及四个标量变量。平方误差的精确量化为不同模糊半径间的准确比较铺平了道路，并回答了以下基本问题：“最小可达估计误差是多少？”、“如何优化选择模糊半径以达到最小估计误差？”、“欠/过参数化如何影响估计误差？”。

最后，我们研究分布鲁棒控制问题，与上述静态问题不同，这些是涉及分布不确定性影响的动态系统和实时（最优）控制算法交互的动态问题。由于其动态特性，开发和分析此类方法的一个关键挑战是预测系统的未来行为。这反过来通过理解OT模糊集如何通过系统动态传播来实现。在这方面，我们展示了OT模糊集可以通过线性和非线性（可能受噪声干扰）转换轻松且直观地传播，传播结果再次是一个OT模糊集或可以被一个OT模糊集紧密上界。在动态系统的背景下，我们的结果允许考虑多种不确定性来源（例如，初始条件、附加噪声、乘性噪声），并通过OT模糊集以封闭形式捕获任何未来时间状态的结果不确定性。这些结果是可操作的、可解释的，并且可以在各种计算上可行的控制和估计公式中立即使用。为了突出这一点，我们研究了在轨迹规划、可达性分析、共识算法和最小二乘估计中的应用。