【斯坦福博士论文】 利用先验知识和结构进行数据高效的机器学习,154页pdf

2022 年 9 月 11 日 专知


构建高性能的端到端机器学习系统主要包括开发机器学习模型和为感兴趣的应用程序收集高质量的训练数据(假设一个人可以访问正确的硬件)。尽管在过去几年里,随着开源平台的兴起,机器学习模型变得越来越商品化,但管理高质量的标记训练数据集对许多现实世界的应用来说仍然是昂贵的或不可行的。因此,我们在本文中主要关注数据,特别是如何 (1)通过注入领域特定的先验知识或利用已为不同任务创建的现有软件系统和数据集,使用数据高效的机器学习方法减少对标记数据的依赖,(2)有效管理训练数据并构建相关工具,以最大化数据的效用,(3)通过将数据的结构与嵌入空间的几何形状进行匹配,提高嵌入所实现的数据表示的质量

我们首先描述了我们在构建数据高效的机器学习方法方面的工作,通过物理驱动的一致性训练增强、尺度等变展开神经网络和使用未经训练的神经网络弱监督来加速磁共振成像(MRI)重建。然后,我们描述了我们在构建用于自然语言理解的数据高效机器学习方法方面的工作。特别地,我们讨论了一种监督对比学习方法用于预训练的语言模型微调和一种大规模数据增强方法来检索领域数据。与有效管理训练数据相关,我们讨论了我们提出的用于类表单文档gather的信息提取系统,并重点讨论了训练数据管理和相关工具中经常被忽略的方面。我们强调了有效管理训练数据的重要性,表明它至少与机器学习模型在真实数据集的下游提取性能方面的进展一样关键。最后,为了改进各种类型数据的嵌入表示,我们研究了具有异质曲率的空间。我们展示了混合曲率表示为图和词嵌入提供了更高质量的表示。此外,我们还研究了如何将Wikidata知识图谱中的实体嵌入到一个抽象的文本摘要模型中,以增强其真实性。


专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“PKML” 就可以获取【斯坦福博士论文】 利用先验知识和结构进行数据高效的机器学习,154页pdf》专知下载链接

                       
专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取100000+AI(AI与军事、医药、公安等)主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取100000+AI主题知识资料
登录查看更多
15

相关内容

【牛津大学博士论文】持续学习的高效机器学习,213页pdf
专知会员服务
77+阅读 · 2022年10月19日
【MIT博士论文】实用机器学习的高效鲁棒算法,142页pdf
专知会员服务
54+阅读 · 2022年9月7日
【MIT博士论文】深度学习几何表示,138页pdf
专知会员服务
64+阅读 · 2022年9月4日
【MIT博士论文】数据高效强化学习,176页pdf
专知会员服务
78+阅读 · 2022年7月11日
【博士论文】多任务学习视觉场景理解,140页pdf
专知会员服务
83+阅读 · 2022年4月5日
专知会员服务
101+阅读 · 2021年7月17日
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
国家自然科学基金
11+阅读 · 2008年12月31日
Arxiv
0+阅读 · 2022年11月18日
Arxiv
12+阅读 · 2022年4月12日
CSKG: The CommonSense Knowledge Graph
Arxiv
18+阅读 · 2020年12月21日
Arxiv
23+阅读 · 2017年3月9日
VIP会员
相关VIP内容
【牛津大学博士论文】持续学习的高效机器学习,213页pdf
专知会员服务
77+阅读 · 2022年10月19日
【MIT博士论文】实用机器学习的高效鲁棒算法,142页pdf
专知会员服务
54+阅读 · 2022年9月7日
【MIT博士论文】深度学习几何表示,138页pdf
专知会员服务
64+阅读 · 2022年9月4日
【MIT博士论文】数据高效强化学习,176页pdf
专知会员服务
78+阅读 · 2022年7月11日
【博士论文】多任务学习视觉场景理解,140页pdf
专知会员服务
83+阅读 · 2022年4月5日
专知会员服务
101+阅读 · 2021年7月17日
相关基金
国家自然科学基金
4+阅读 · 2014年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
2+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
国家自然科学基金
1+阅读 · 2009年12月31日
国家自然科学基金
11+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员