【MIT博士论文】机器学习中的稀疏性:理论与应用,122页pdf

2022 年 11 月 21 日 专知


稀疏性在机器学习中扮演着关键的角色,原因有几个,包括可解释性。可解释性是由从业者或科学家寻求的。事实上,一方面,可解释性在医疗健康等实践中可能是关键,在这些实践中,黑盒模型不能用于为患者开具治疗处方。另一方面,可解释性对于理解使用机器学习建模的现象(如等离子体电磁发射)至关重要。除了可解释性,稀疏性还有其他一些重要的应用,如提高模型 的预测能力,降低运营和投资成本。

整数优化在处理稀疏性的方法概念中是一个非常有效的工具。它为构建稀疏模型提供了一个严格的框架,并已被证明比其他方法(包括使用稀疏诱导正则化规范的方法)提供了更精确和稀疏的模型。本文主要研究整数优化在稀疏性问题中的应用。

我们提供了稀疏建模的两个应用。第一个是关于混合整数优化稀疏回归在激光诱导击破光谱分析技术中的应用。我们在化学计量学中建立了一种稀疏和鲁棒模型的方法,并在各种类型的矿物矿石上进行了测试。MIO方法优于专家的预测,同时提供了与𝐿𝐴𝑆𝑆𝑂相比显著稀疏的模型。由于𝑅2在某些情况下达到的值高于0.99,据我们所知,这个应用程序是第一个带来经验证据的应用程序,证明在自然界中存在真正的支持,因为优化社区一直在质疑在现实生活中的应用程序中存在这样的概念。第二个应用与COVID检测和稀疏分类有关。我们提出了一种基于光谱的快速、简单的检测方法。这种新方法建立在机器学习能力的基础上,可以在一分钟内完成诊断,不使用任何试剂,达到接近PCR的精确度。稀疏方法能够检测SARS-CoV-2 RNA和蛋白质的3D结构中的特定特征。

鉴于主成分分析在我们的研究和机器学习中的重要性,我们也提供了一种解决稀疏主成分分析问题的新方法。该方法是第一个一步生成多个稀疏主成分的方法,而现有的技术依赖于压缩迭代生成主成分。提出的方法(GeoSPCA)生成高质量的解决方案,将压缩技术解释的方差提高了一个数量级以上。

专知便捷查看

便捷下载,请关注专知人工智能公众号(点击上方关注)

  • 点击“发消息” 回复 S122” 就可以获取《【MIT博士论文】机器学习中的稀疏性:理论与应用,122页pdf》专知下载链接

                       
专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取100000+AI(AI与军事、医药、公安等)主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取100000+AI主题知识资料

登录查看更多
4

相关内容

【MIT博士论文】使用神经符号学习的鲁棒可靠智能系统
专知会员服务
38+阅读 · 2022年7月5日
【MIT博士论文】优化理论与机器学习实践
专知会员服务
84+阅读 · 2022年6月30日
【新书】多元统计与机器学习,185页pdf
专知会员服务
85+阅读 · 2022年6月5日
【MIT干货课程】医疗健康领域的机器学习
专知会员服务
62+阅读 · 2022年5月26日
专知会员服务
137+阅读 · 2021年8月12日
【经典书】机器学习统计学,476页pdf
专知会员服务
118+阅读 · 2021年7月19日
机器学习速查手册,135页pdf
专知会员服务
335+阅读 · 2020年3月15日
【MIT博士论文】优化理论与机器学习实践
专知
2+阅读 · 2022年6月30日
国家自然科学基金
5+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Arxiv
21+阅读 · 2022年2月24日
Heterogeneous Graph Transformer
Arxiv
27+阅读 · 2020年3月3日
Arxiv
23+阅读 · 2018年10月24日
VIP会员
相关VIP内容
【MIT博士论文】使用神经符号学习的鲁棒可靠智能系统
专知会员服务
38+阅读 · 2022年7月5日
【MIT博士论文】优化理论与机器学习实践
专知会员服务
84+阅读 · 2022年6月30日
【新书】多元统计与机器学习,185页pdf
专知会员服务
85+阅读 · 2022年6月5日
【MIT干货课程】医疗健康领域的机器学习
专知会员服务
62+阅读 · 2022年5月26日
专知会员服务
137+阅读 · 2021年8月12日
【经典书】机器学习统计学,476页pdf
专知会员服务
118+阅读 · 2021年7月19日
机器学习速查手册,135页pdf
专知会员服务
335+阅读 · 2020年3月15日
相关基金
国家自然科学基金
5+阅读 · 2017年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
Top
微信扫码咨询专知VIP会员