项目名称: 求解非光滑、非凸正则极小化问题的光滑化信赖域方法

项目编号: No.11201472

项目类型: 青年科学基金项目

立项/批准年度: 2013

项目学科: 数理科学和化学

项目作者: 牛凌峰

作者单位: 中国科学院大学

项目金额: 22万元

中文摘要: 非凸、非光滑优化问题在工程和经济中备受关注。光滑逼近作为处理函数非光滑性的主要手段,已成为求解非光滑优化的重要工具。在现有的光滑化方法中,和大多数采用线搜索策略的情形相比,有关光滑化信赖域方法的研究并不多见。因此,本项目计划研究如何利用光滑化信赖域方法求解一类带有非凸、非光滑罚函数项的正则极小化问题。这类问题近年来在图像恢复、信号重构、变量选择等众多领域有广泛的应用。项目将着重研究: 1)探讨怎样刻画所研究问题的最优性条件;(2)研究如何针对罚函数的结构特点构造有效的光滑逼近函数;(3)设计全局收敛的光滑化信赖域方法;(4)分析算法的局部收敛速度(对局部Lipschitz连续情形)或计算复杂度(对非局部Lipschitz连续情形);(5)将新方法应用于实际。本项目的开展不仅为一类具有广泛应用价值的非光滑问题提供新的求解方法,也能进一步发展和丰富信赖域和光滑化方法本身的理论和技术。

中文关键词: 非光滑优化;非凸优化;正则极小化;信赖域方法;光滑化方法

英文摘要: Recently, nonsmooth,nonconvex optimizations has attracted significant attention in engineering and economics. An increasing number of practical problems require solving the nonsmooth,nonconvex optimization problems. Smoothing approximations for optimization problems have been studied for decades and become an important tool for solving nonsmooth minimization. Line search and trust region are two major strategies for continuous optimization. Trust region methods for solving nonsmooth optimization problems have been studied for long time as well. However, there is a little attention on combining smoothing approximations and trust region methods. Most of exist smoothing methods are in the framework of line search and only seldom works about smoothing trust region can be found. This project is focus on smoothing trust region methods for the regularized minimization problems with nonconvex,nonsmooth, perhaps non-Lipschitz penalty functions,which attracted considerable attention in many applications including image restoration, signal reconstruction, variable selection. The main work will include: (1) Derive the first order and second order necessary optimality conditions and sufficient optimality conditions for local minimizers of such minimization problems. (2) Construct the effective smoothing approximations for th

英文关键词: nonsmooth optimization;nonconvex optimization;regularized minimization;trust region method;smoothing method

成为VIP会员查看完整内容
0

相关内容

NeurIPS 2021 | 用简单的梯度下降算法逃离鞍点
专知会员服务
23+阅读 · 2021年12月6日
专知会员服务
12+阅读 · 2021年10月12日
【开放书】《矩阵流形优化算法》,241页pdf
专知会员服务
92+阅读 · 2021年7月3日
最新《非凸优化理论》进展书册,79页pdf
专知会员服务
104+阅读 · 2020年12月18日
专知会员服务
28+阅读 · 2020年12月14日
专知会员服务
70+阅读 · 2020年12月7日
【NeurIPS2020-北大】非凸优化裁剪算法的改进分析
专知会员服务
27+阅读 · 2020年10月11日
《常微分方程》笔记,419页pdf
专知会员服务
70+阅读 · 2020年8月2日
专知会员服务
41+阅读 · 2020年7月29日
交替方向乘子法(ADMM)算法原理详解
PaperWeekly
3+阅读 · 2022年1月21日
SquarePlus:可能是运算最简单的ReLU光滑近似
PaperWeekly
0+阅读 · 2022年1月20日
正则化方法小结
极市平台
2+阅读 · 2021年11月24日
用狄拉克函数来构造非光滑函数的光滑近似
PaperWeekly
0+阅读 · 2021年10月23日
求解稀疏优化问题——半光滑牛顿方法
极市平台
40+阅读 · 2019年11月30日
【优博微展2019】李志泽:简单快速的机器学习优化方法
清华大学研究生教育
13+阅读 · 2019年10月8日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Arxiv
0+阅读 · 2022年4月20日
Arxiv
0+阅读 · 2022年4月17日
Arxiv
15+阅读 · 2021年2月19日
Deformable Style Transfer
Arxiv
14+阅读 · 2020年3月24日
小贴士
相关VIP内容
NeurIPS 2021 | 用简单的梯度下降算法逃离鞍点
专知会员服务
23+阅读 · 2021年12月6日
专知会员服务
12+阅读 · 2021年10月12日
【开放书】《矩阵流形优化算法》,241页pdf
专知会员服务
92+阅读 · 2021年7月3日
最新《非凸优化理论》进展书册,79页pdf
专知会员服务
104+阅读 · 2020年12月18日
专知会员服务
28+阅读 · 2020年12月14日
专知会员服务
70+阅读 · 2020年12月7日
【NeurIPS2020-北大】非凸优化裁剪算法的改进分析
专知会员服务
27+阅读 · 2020年10月11日
《常微分方程》笔记,419页pdf
专知会员服务
70+阅读 · 2020年8月2日
专知会员服务
41+阅读 · 2020年7月29日
相关基金
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
微信扫码咨询专知VIP会员