【2022新书】算法高维鲁棒统计,296页pdf与98页ppt

2022 年 10 月 21 日 专知

鲁棒统计领域研究的一般问题是设计即使在数据显著偏离理想化建模假设的情况下也能表现良好的估计量。对鲁棒统计过程的系统研究可以追溯到20世纪60年代Tukey和Huber的开创性工作。经典统计理论对大多数常见问题的鲁棒估计的信息理论极限进行了表征。另一方面,直到最近,人们对这个领域的计算方面知之甚少。计算机科学最近的一项工作为一系列学习任务提供了第一个计算高效的高维鲁棒估计器。具体而言,2016年两项独立且并行的研究开发了第一个用于基本高维鲁棒统计任务的高效算法,包括均值和协方差估计。自这些著作的传播以来,人们对各种背景下的高维鲁棒估计算法进行了大量的研究。本书概述了算法高维鲁棒统计的最新发展。


将一个模型与一组观察结果相匹配是统计学和机器学习中的典型问题之一。典型的假设是,数据是由给定类型的模型生成的(例如,混合模型)。这是一个简化的假设,仅近似有效,因为真实数据集通常暴露于某些污染源。因此,为特定模型设计的任何估计器在存在损坏/噪声数据时也必须是鲁棒的。经典的鲁棒统计研究,从20世纪60年代的Tukey和Huber的开创性工作开始,确定了高维鲁棒估计的基本信息理论方面。相比之下,直到最近,人们对计算方面的了解还很少。特别是,即使是对高维数据集均值的鲁棒估计这一基本问题,所有已知的鲁棒估计量都很难计算。此外,已知的启发式(如RANSAC)的准确性随着维数的增加呈多项式递减。这种情况自然引起了以下问题:

高维估计的鲁棒性和计算效率能否协调一致?

理论计算机科学的最近一行工作获得了第一个计算高效的鲁棒估计器,用于一系列高维估计任务。在本教程中,我们将研究这些估计器的算法技术以及它们之间的联系。我们将针对以下问题和设置说明这些技术:鲁棒均值和协方差估计、鲁棒随机优化、稀疏性假设下的鲁棒估计、列表可解码学习和混合模型、高阶矩的鲁棒估计、计算鲁棒权衡。最后,我们将讨论未来工作的新方向和机遇。


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“M173” 就可以获取【牛津大学博士论文】多模态概率推理的机器学习预测与协调,173页pdf》专知下载链接

                       
专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取100000+AI(AI与军事、医药、公安等)主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取100000+AI主题知识资料

登录查看更多
4

相关内容

【斯坦福大学博士论文】鲁棒学习:信息论和算法,88页pdf
专知会员服务
42+阅读 · 2022年11月13日
【新书】多元统计与机器学习,185页pdf
专知会员服务
86+阅读 · 2022年6月5日
【经典书】贝叶斯强化学习概述,147页pdf
专知会员服务
106+阅读 · 2021年11月21日
专知会员服务
252+阅读 · 2021年10月8日
专知会员服务
117+阅读 · 2021年10月6日
【2021新书】分布式优化,博弈和学习算法,227页pdf
专知会员服务
227+阅读 · 2021年5月25日
【干货书】机器学习优化,509页pdf
专知会员服务
146+阅读 · 2021年2月26日
【经典书】统计强化学习:现代机器学习方法,206页pdf
专知会员服务
78+阅读 · 2021年2月24日
【干货书】算法,Algorithms,314页pdf
专知
5+阅读 · 2022年8月20日
【干货书】海量图分析算法,632页pdf
专知
6+阅读 · 2022年6月8日
【新书】多元统计与机器学习,185页pdf
专知
6+阅读 · 2022年6月5日
【经典书】贝叶斯强化学习概述,147页pdf
专知
4+阅读 · 2021年11月21日
【新书】感知和行动的贝叶斯模型,348页pdf
【经典书】凸优化:算法与复杂度,130页pdf
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Probabilistically Robust PAC Learning
Arxiv
0+阅读 · 2022年12月1日
已删除
Arxiv
32+阅读 · 2020年3月23日
VIP会员
相关VIP内容
【斯坦福大学博士论文】鲁棒学习:信息论和算法,88页pdf
专知会员服务
42+阅读 · 2022年11月13日
【新书】多元统计与机器学习,185页pdf
专知会员服务
86+阅读 · 2022年6月5日
【经典书】贝叶斯强化学习概述,147页pdf
专知会员服务
106+阅读 · 2021年11月21日
专知会员服务
252+阅读 · 2021年10月8日
专知会员服务
117+阅读 · 2021年10月6日
【2021新书】分布式优化,博弈和学习算法,227页pdf
专知会员服务
227+阅读 · 2021年5月25日
【干货书】机器学习优化,509页pdf
专知会员服务
146+阅读 · 2021年2月26日
【经典书】统计强化学习:现代机器学习方法,206页pdf
专知会员服务
78+阅读 · 2021年2月24日
相关基金
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
1+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员