【NeurIPS 2020】大规模分布式鲁棒优化方法

我们提出并分析了具有条件风险值(CVaR)的凸损失分布鲁棒优化算法和有条件风险值的χ2发散不确定性集。我们证明了我们的算法需要大量的梯度评估，独立于训练集的大小和参数的数量，使它们适合大规模的应用。对于χ2的不确定性集，这些是文献中第一个这样的保证，对于CVaR，我们的保证在不确定性水平上是线性的，而不是像之前的工作中那样是二次的。我们还提供了下界来证明我们的CVaR算法的最坏情况的最优性和一个惩罚性的版本的χ2问题。我们的主要技术贡献是基于[Blanchet & Glynn, 2015]的批量鲁棒风险估计偏差的新界和多层蒙特卡洛梯度估计器的方差。

https://arxiv.org/abs/2010.05893

专知便捷查看

便捷下载，请关注专知公众号（点击上方蓝色专知关注）

• 后台回复“CVAR” 可以获取《【NeurIPS 2020】大规模分布式鲁棒优化方法》专知下载链接索引

专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取5000+AI主题干货知识资料！

欢迎微信扫一扫加入专知人工智能知识星球群，获取最新AI专业干货知识教程资料和与专家交流咨询！

点击“ 阅读原文 ”，了解使用 专知 ，查看获取5000+AI主题知识资源