This paper surveys the machine learning literature and presents machine learning as optimization models. Such models can benefit from the advancement of numerical optimization techniques which have already played a distinctive role in several machine learning settings. Particularly, mathematical optimization models are presented for commonly used machine learning approaches for regression, classification, clustering, and deep neural networks as well new emerging applications in machine teaching and empirical model learning. The strengths and the shortcomings of these models are discussed and potential research directions are highlighted.


翻译:本文对机器学习文献进行了调查,并将机器学习作为优化模型提出来,这些模型可受益于数字优化技术的进步,这些技术在一些机器学习环境中已经发挥了独特的作用,特别是,提出了数学优化模型,用于常用的机器学习方法,用于回归、分类、集群和深层神经网络,以及在机器教学和实证模型学习方面新出现的应用,讨论了这些模型的长处和缺点,并强调了潜在的研究方向。

11
下载
关闭预览

相关内容

100+篇《自监督学习(Self-Supervised Learning)》论文最新合集
专知会员服务
122+阅读 · 2020年3月18日
专知会员服务
92+阅读 · 2019年12月24日
吴恩达新书《Machine Learning Yearning》完整中文版
专知会员服务
121+阅读 · 2019年10月27日
Transferring Knowledge across Learning Processes
CreateAMind
12+阅读 · 2019年5月18日
Unsupervised Learning via Meta-Learning
CreateAMind
35+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
9+阅读 · 2019年1月2日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
10+阅读 · 2018年12月24日
Hierarchical Imitation - Reinforcement Learning
CreateAMind
16+阅读 · 2018年5月25日
【论文】变分推断(Variational inference)的总结
机器学习研究会
30+阅读 · 2017年11月16日
【论文】图上的表示学习综述
机器学习研究会
10+阅读 · 2017年9月24日
Auto-Encoding GAN
CreateAMind
5+阅读 · 2017年8月4日
Andrew NG的新书《Machine Learning Yearning》
我爱机器学习
9+阅读 · 2016年12月7日
A Survey on Bayesian Deep Learning
Arxiv
52+阅读 · 2020年7月2日
A Survey of Deep Learning for Scientific Discovery
Arxiv
28+阅读 · 2020年3月26日
Arxiv
39+阅读 · 2019年12月20日
Optimization for deep learning: theory and algorithms
Arxiv
93+阅读 · 2019年12月19日
A Comprehensive Survey on Transfer Learning
Arxiv
110+阅读 · 2019年11月7日
Arxiv
15+阅读 · 2018年8月30日
A Survey on Deep Transfer Learning
Arxiv
11+阅读 · 2018年8月6日
Arxiv
140+阅读 · 2017年8月1日
VIP会员
相关资讯
Transferring Knowledge across Learning Processes
CreateAMind
12+阅读 · 2019年5月18日
Unsupervised Learning via Meta-Learning
CreateAMind
35+阅读 · 2019年1月3日
meta learning 17年:MAML SNAIL
CreateAMind
9+阅读 · 2019年1月2日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
10+阅读 · 2018年12月24日
Hierarchical Imitation - Reinforcement Learning
CreateAMind
16+阅读 · 2018年5月25日
【论文】变分推断(Variational inference)的总结
机器学习研究会
30+阅读 · 2017年11月16日
【论文】图上的表示学习综述
机器学习研究会
10+阅读 · 2017年9月24日
Auto-Encoding GAN
CreateAMind
5+阅读 · 2017年8月4日
Andrew NG的新书《Machine Learning Yearning》
我爱机器学习
9+阅读 · 2016年12月7日
相关论文
A Survey on Bayesian Deep Learning
Arxiv
52+阅读 · 2020年7月2日
A Survey of Deep Learning for Scientific Discovery
Arxiv
28+阅读 · 2020年3月26日
Arxiv
39+阅读 · 2019年12月20日
Optimization for deep learning: theory and algorithms
Arxiv
93+阅读 · 2019年12月19日
A Comprehensive Survey on Transfer Learning
Arxiv
110+阅读 · 2019年11月7日
Arxiv
15+阅读 · 2018年8月30日
A Survey on Deep Transfer Learning
Arxiv
11+阅读 · 2018年8月6日
Arxiv
140+阅读 · 2017年8月1日
Top
微信扫码咨询专知VIP会员