【CMU-Yuejie Chi等干货书】满足低秩矩阵分解的非凸优化综述，69页pdf，Nonconvex Optimization Meets Low-Rank Matrix Factorization: An Overview

近年来，在通过非凸优化来开发可证明的精确和高效的低秩矩阵分解算法方面取得了重大进展。由于非凸优化算法容易受到伪局部极小值的影响，传统智慧往往对其持悲观看法，而简单的迭代方法，如梯度下降，在实践中已经非常成功。然而，直到最近，这种理论基础在很大程度上还是缺乏的。

在这个书册风格的概述中，我们强调了统计模型在实现高效非凸优化和性能保证方面的重要作用。我们回顾了两种对比的方法:(1)两阶段算法，包括一个定制的初始化步骤，然后逐次细化;(2)全局景观分析和无初始化算法。讨论了几个典型矩阵分解问题，包括但不限于矩阵传感、相位恢复、矩阵补全、盲反褶积、鲁棒主成分分析、相位同步和联合对准。本文特别强调了分析背后的关键技术洞察力。本文证明，优化与统计的综合考虑，取得了丰硕的研究成果。