The influential work of Bravo et al. (2018) shows that derivative free play in strongly monotone games converges at the rate $O\left(\frac{d^2}{T^{1/3}}\right)$, where $T$ is the time horizon and $d$ is the ambient dimension. This note shows that the convergence rate is actually $O\left(\frac{d^2}{T^{1/2}}\right)$, thereby matching the classical guarantees for derivative free methods in optimization. The argument we present is elementary, simply interpreting the method as stochastic gradient play on a slightly perturbed strongly monotone game.


翻译:Bravo等人的有影响力的工作(2018年)表明,极强单调游戏中的衍生自由游戏以美元(left)(\\frac{d ⁇ 2 ⁇ T ⁇ 1/3 ⁇ right)的汇率趋同,美元是时间范围,美元是环境维度。本说明表明,趋同率实际上是美元(left)(\frac{d ⁇ 2 ⁇ 2 ⁇ T ⁇ 1/2 ⁇ right),从而与衍生自由方法在优化中的典型保障相匹配。我们提出的论据是基本的,只是将这一方法解释为在略受干扰的极强单调游戏中进行随机梯度游戏。

0
下载
关闭预览

相关内容

最优化是应用数学的一个分支,主要指在一定条件限制下,选取某种研究方案使目标达到最优的一种方法。最优化问题在当今的军事、工程、管理等领域有着极其广泛的应用。
NeurIPS 20201接收论文列表发布,2334篇论文都在这了!
专知会员服务
37+阅读 · 2021年11月4日
【经典书】模式识别导论,561页pdf
专知会员服务
81+阅读 · 2021年6月30日
专知会员服务
91+阅读 · 2021年6月3日
专知会员服务
25+阅读 · 2021年4月2日
Linux导论,Introduction to Linux,96页ppt
专知会员服务
77+阅读 · 2020年7月26日
强化学习最新教程,17页pdf
专知会员服务
174+阅读 · 2019年10月11日
意识是一种数学模式
CreateAMind
3+阅读 · 2019年6月24日
Transferring Knowledge across Learning Processes
CreateAMind
27+阅读 · 2019年5月18日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
【NIPS2018】接收论文列表
专知
5+阅读 · 2018年9月10日
【SIGIR2018】五篇对抗训练文章
专知
12+阅读 · 2018年7月9日
【学习】Hierarchical Softmax
机器学习研究会
4+阅读 · 2017年8月6日
强化学习族谱
CreateAMind
26+阅读 · 2017年8月2日
强化学习 cartpole_a3c
CreateAMind
9+阅读 · 2017年7月21日
Arxiv
3+阅读 · 2017年12月1日
VIP会员
相关资讯
意识是一种数学模式
CreateAMind
3+阅读 · 2019年6月24日
Transferring Knowledge across Learning Processes
CreateAMind
27+阅读 · 2019年5月18日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
【NIPS2018】接收论文列表
专知
5+阅读 · 2018年9月10日
【SIGIR2018】五篇对抗训练文章
专知
12+阅读 · 2018年7月9日
【学习】Hierarchical Softmax
机器学习研究会
4+阅读 · 2017年8月6日
强化学习族谱
CreateAMind
26+阅读 · 2017年8月2日
强化学习 cartpole_a3c
CreateAMind
9+阅读 · 2017年7月21日
Top
微信扫码咨询专知VIP会员