随着科学和工程越来越多地受到数据驱动,优化的作用已经扩展到数据分析管道的几乎每个阶段,从信号和数据采集到建模和预测。实践中遇到的优化问题往往是非凸的。虽然挑战因问题而异,但非凸性的一个常见来源是数据或测量模型中的非线性。非线性模型通常表现出对称性,创造复杂的、非凸的客观景观,并具有多个等效解。然而,简单的方法(如梯度下降)在实践中往往表现得惊人的好。
本研究的目标是突出一类可处理的非凸问题,这些问题可以通过对称性来理解。这些问题呈现出一种典型的几何结构:局部最小值是单一“Ground Truth”解的对称副本,而其他临界点出现在ground truth的对称副本的平衡叠加上,并在打破对称性的方向上呈现负曲率。这种结构使得获得全局最小值的有效方法成为可能。我们讨论了这一现象的例子,在成像、信号处理和数据分析的广泛问题。我们强调对称在塑造客观景观中的关键作用,并讨论旋转对称和离散对称的不同作用。这个领域充满了观察到的现象和开放的问题; 最后,我们强调了未来研究的方向。
专知便捷查看
便捷下载,请关注专知公众号(点击上方蓝色专知关注)
后台回复“SGNT” 就可以获取《【罗切斯特Yuqian Zhang等书】从对称到几何:可处理的非凸问题,34页pdf》专知下载链接