This work revisits the multiplicative weights update technique (MWU) which has a variety of applications, especially in learning and searching algorithms. In particular, the Bayesian update method is a well known version of MWU that is particularly applicable for the problem of searching in a given domain. An ideal scenario for that method is when the input distribution is known a priori and each single update maximizes the information gain. In this work we consider two search domains - linear orders (sorted arrays) and graphs, where the aim of the search is to locate an unknown target by performing as few queries as possible. Searching such domains is well understood when each query provides a correct answer and the input target distribution is uniform. Hence, we consider two generalizations: the noisy search both with arbitrary and adversarial (i.e., unknown) target distributions. We obtain several results providing full characterization of the query complexities in the three settings: adversarial Monte Carlo, adversarial Las Vegas and distributional Las Vegas. Our algorithms either improve, simplify or patch earlier ambiguities in the literature - see the works of Emamjomeh-Zadeh et al. [STOC 2016], Dereniowski et. al. [SOSA@SODA 2019] and Ben-Or and Hassidim [FOCS 2008]. In particular, all algorithms give strategies that provide the optimal number of queries up to lower-order terms. Our technical contribution lies in providing generic search techniques that are able to deal with the fact that, in general, queries guarantee only suboptimal information gain.


翻译:这项工作重新审视了具有多种应用的多复制加权更新技术(MWU), 特别是在学习和搜索算法方面。 特别是, Bayesian 更新方法是一个众所周知的MWU版本, 特别适用于特定域的搜索问题。 该方法的理想情景是, 输入分布以先验的方式已知, 每次更新都最大限度地增加信息收益。 在此工作中, 我们考虑两个搜索域 - 线性命令( 排序阵列) 和图表, 搜索的目的是通过尽可能少的查询来定位一个未知的目标。 当每个查询提供正确答案和输入目标分布一致时, 搜索这些域是人们非常理解的。 因此, 我们考虑两种笼统的查找: 任意和对立( 未知) 目标分布的杂乱搜索。 我们得到的几项结果, 这三个环境的复杂度是: 对抗性Montelo、 对抗性拉斯维加斯和 拉斯维加斯的分布图。 我们的算法要么改进、 简化或弥补早期文献中的模糊性标度。 我们的通用查询技术查询方法的作品在Emjome- Zaderieval etal asal real real.

0
下载
关闭预览

相关内容

《计算机信息》杂志发表高质量的论文,扩大了运筹学和计算的范围,寻求有关理论、方法、实验、系统和应用方面的原创研究论文、新颖的调查和教程论文,以及描述新的和有用的软件工具的论文。官网链接:https://pubsonline.informs.org/journal/ijoc
专知会员服务
88+阅读 · 2021年6月29日
专知会员服务
126+阅读 · 2020年8月7日
Fariz Darari简明《博弈论Game Theory》介绍,35页ppt
专知会员服务
110+阅读 · 2020年5月15日
深度学习搜索,Exploring Deep Learning for Search
专知会员服务
58+阅读 · 2020年5月9日
100+篇《自监督学习(Self-Supervised Learning)》论文最新合集
专知会员服务
164+阅读 · 2020年3月18日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
59+阅读 · 2019年10月17日
最新BERT相关论文清单,BERT-related Papers
专知会员服务
52+阅读 · 2019年9月29日
鲁棒机器学习相关文献集
专知
8+阅读 · 2019年8月18日
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
28+阅读 · 2019年5月18日
Call for Participation: Shared Tasks in NLPCC 2019
中国计算机学会
5+阅读 · 2019年3月22日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
17+阅读 · 2018年12月24日
carla无人驾驶模拟中文项目 carla_simulator_Chinese
CreateAMind
3+阅读 · 2018年1月30日
强化学习族谱
CreateAMind
26+阅读 · 2017年8月2日
强化学习 cartpole_a3c
CreateAMind
9+阅读 · 2017年7月21日
Arxiv
0+阅读 · 2021年9月14日
Arxiv
0+阅读 · 2021年9月12日
A Modern Introduction to Online Learning
Arxiv
20+阅读 · 2019年12月31日
A Sketch-Based System for Semantic Parsing
Arxiv
4+阅读 · 2019年9月12日
Arxiv
3+阅读 · 2018年2月24日
Arxiv
3+阅读 · 2017年11月20日
VIP会员
相关VIP内容
专知会员服务
88+阅读 · 2021年6月29日
专知会员服务
126+阅读 · 2020年8月7日
Fariz Darari简明《博弈论Game Theory》介绍,35页ppt
专知会员服务
110+阅读 · 2020年5月15日
深度学习搜索,Exploring Deep Learning for Search
专知会员服务
58+阅读 · 2020年5月9日
100+篇《自监督学习(Self-Supervised Learning)》论文最新合集
专知会员服务
164+阅读 · 2020年3月18日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
59+阅读 · 2019年10月17日
最新BERT相关论文清单,BERT-related Papers
专知会员服务
52+阅读 · 2019年9月29日
相关资讯
鲁棒机器学习相关文献集
专知
8+阅读 · 2019年8月18日
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
28+阅读 · 2019年5月18日
Call for Participation: Shared Tasks in NLPCC 2019
中国计算机学会
5+阅读 · 2019年3月22日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
17+阅读 · 2018年12月24日
carla无人驾驶模拟中文项目 carla_simulator_Chinese
CreateAMind
3+阅读 · 2018年1月30日
强化学习族谱
CreateAMind
26+阅读 · 2017年8月2日
强化学习 cartpole_a3c
CreateAMind
9+阅读 · 2017年7月21日
相关论文
Arxiv
0+阅读 · 2021年9月14日
Arxiv
0+阅读 · 2021年9月12日
A Modern Introduction to Online Learning
Arxiv
20+阅读 · 2019年12月31日
A Sketch-Based System for Semantic Parsing
Arxiv
4+阅读 · 2019年9月12日
Arxiv
3+阅读 · 2018年2月24日
Arxiv
3+阅读 · 2017年11月20日
Top
微信扫码咨询专知VIP会员