机器学习和离散优化是计算机科学的两大支柱,也是广泛用于商业、科学和技术领域的分析、预测和决策的工具。然而,机器学习和离散优化方法发展的前提在根本上有所不同。学习依赖于数据,并且通常很少或根本不需要人工设计。其优点在于普适性和几乎全面的适用性,但许多模型无法有效地整合领域知识或特定约束,缺乏可解释性,且其预测存在不确定性,这在实践中阻碍了其应用。相反,离散优化的算法通常针对特定应用进行定制,如组合问题。他们精确的形式化提供了洞察和分析,而且他们的输出通常带有性能保证。然而,与机器学习不同,离散优化的方法在实例之间不能泛化,这在实际应用中是一个不足。

https://www.research-collection.ethz.ch/handle/20.500.11850/629004 鉴于机器学习和离散优化的互补优缺点,很自然地会问到这两个领域的方法在多大程度上可以有益地结合起来。这是我们在这篇论文中提出的问题,并通过展示用于和用于离散优化的学习方法来肯定地回答这个问题。

在用于离散优化的学习中,我们关注的是涉及离散变量的非监督学习模型的梯度估计。这些模型广泛存在,并在正则化、可解释性、模型设计和算法集成方面提供了好处。我们依赖离散优化的高效方法来通过松弛设计这些模型的新梯度估计器,并通过实验证明它们使学习更加高效、有用和高效。

在用于学习的离散优化中,我们专注于使用机器学习提高整数规划的分支和界求解器的性能。我们用针对特定应用的学习模型替换这些求解器中用于切割平面选择和潜水的现有子程序。我们的方法借鉴了模仿学习和生成建模的思想,具有可扩展性和有效性。在一系列实验中,我们的模型超过了现有的启发式方法以及竞争的机器学习方法,以促进求解器性能的整体改进。

成为VIP会员查看完整内容
40

相关内容

博士论文是由攻读博士学位的研究生所撰写的学术论文。它要求作者在博士生导师的指导下,选择自己能够把握和驾驭的潜在的研究方向,开辟新的研究领域。由此可见,这就对作者提出了较高要求,它要求作者必须在本学科的专业领域具备大量的理论知识,并对所学专业的理论知识有相当深入的理解和思考,同时还要具有相当水平的独立科学研究能力,能够为在学科领域提出独创性的见解和有价值的科研成果。因而,较之学士论文、硕士论文,博士论文具有更高的学术价值,对学科的发展具有重要的推动作用。
【MIT博士论文】量子计算中的人工智能前景, 253页pdf
专知会员服务
41+阅读 · 2023年8月23日
【MIT博士论文】实用机器学习的高效鲁棒算法,142页pdf
专知会员服务
55+阅读 · 2022年9月7日
【MIT博士论文】数据高效强化学习,176页pdf
专知会员服务
82+阅读 · 2022年7月11日
最新《图嵌入组合优化》综述论文,40页pdf
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
22+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2023年10月27日
Arxiv
140+阅读 · 2023年4月20日
A Survey of Large Language Models
Arxiv
343+阅读 · 2023年3月31日
VIP会员
相关基金
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
22+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员