随着科学和工程越来越多地受到数据驱动,优化的作用已经扩展到数据分析管道的几乎每个阶段,从信号和数据采集到建模和预测。实践中遇到的优化问题往往是非凸的。虽然挑战因问题而异,但非凸性的一个常见来源是数据或测量模型中的非线性。非线性模型通常表现出对称性,创造复杂的、非凸的客观景观,并具有多个等效解。然而,简单的方法(如梯度下降)在实践中往往表现得惊人的好。

本研究的目标是突出一类可处理的非凸问题,这些问题可以通过对称性来理解。这些问题呈现出一种典型的几何结构:局部最小值是单一“Ground Truth”解的对称副本,而其他临界点出现在ground truth的对称副本的平衡叠加上,并在打破对称性的方向上呈现负曲率。这种结构使得获得全局最小值的有效方法成为可能。我们讨论了这一现象的例子,在成像、信号处理和数据分析的广泛问题。我们强调对称在塑造客观景观中的关键作用,并讨论旋转对称和离散对称的不同作用。这个领域充满了观察到的现象和开放的问题; 最后,我们强调了未来研究的方向。

成为VIP会员查看完整内容
19

相关内容

【2022新书】图算法指南,A Guide to Graph Algorithms, 350页pdf
专知会员服务
81+阅读 · 2022年3月2日
【开放书】《矩阵流形优化算法》,241页pdf
专知会员服务
92+阅读 · 2021年7月3日
专知会员服务
41+阅读 · 2021年4月2日
【2021新书】编码艺术,Coding Art,284页pdf
专知会员服务
73+阅读 · 2021年1月10日
【斯坦福经典书】统计学稀疏性:Lasso与泛化性,362页pdf
专知会员服务
35+阅读 · 2020年11月15日
【干货书】高维统计学,572页pdf
专知
12+阅读 · 2021年12月3日
【经典书】贝叶斯强化学习概述,147页pdf
专知
4+阅读 · 2021年11月21日
【新书】感知和行动的贝叶斯模型,348页pdf
【经典书】数据结构与算法,770页pdf
专知
2+阅读 · 2021年4月15日
【斯坦福经典书】机器学习导论,188页pdf
专知
0+阅读 · 2021年3月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
5+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
2+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2010年12月31日
Arxiv
27+阅读 · 2021年11月11日
VIP会员
相关基金
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
5+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
2+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2010年12月31日
微信扫码咨询专知VIP会员