【伯克利博士论文】学习跨领域的可迁移表示

2022 年 8 月 17 日 专知



深度神 经网络在学习给定数据集上的表示方面取得了巨大的成功。然而,在许多情况下,学习到的表示是依赖于数据集的,不能转移到具有不同分布的数据集,即使是对于相同的任务。如何处理域漂移是提高模型泛化能力的关键。域适应提供了一个潜在的解 决方案,允许我们将具有丰富标签的源域转移到只有有限标签或没有标签的目标域。

在本论文中,我将介绍在不同场景下学习可迁移表示的许多方法,包括1) 当源域只有有限的标签,甚至每个类只有一个标签时,2) 当有多个标记源域时,3) 当有多个未标记的目标域时。这些方法在不同的数据模态(如视觉和语言)中是通用的,并且可以很容易地组合起来解决其他类似的领域转移设置(如从具有有限标签的多个源适应),使模型能够泛化到源域之外。许多工作将知识从模拟数据转移到真实数据,以减少对昂贵的手动注释的需求。最后,介绍了我们在构建LiDAR 点云模拟器方面的开创性工作,进一步实现了LiDAR 点云分割的大量领域适配工作。




专知便捷查看

便捷下载,请关注专知公众号(点击上方蓝色专知关注)

  • 后台回复“LTRD” 就可以获取《【伯克利博士论文】学习跨领域的可迁移表示》专知下载链接

                       
专知,专业可信的人工智能知识分发 ,让认知协作更快更好!欢迎注册登录专知www.zhuanzhi.ai,获取100000+AI(AI与军事、医药、公安等)主题干货知识资料!
欢迎微信扫一扫加入专知人工智能知识星球群,获取最新AI专业干货知识教程资料和与专家交流咨询
点击“ 阅读原文 ”,了解使用 专知 ,查看获取100000+AI主题知识资料
登录查看更多
3

相关内容

【伯克利博士论文】学习在动态环境中泛化,103页pdf
专知会员服务
69+阅读 · 2022年10月12日
【牛津大学博士论文】自监督学习视频理解,143页pdf
专知会员服务
38+阅读 · 2022年10月11日
【牛津大学博士论文】多模态自监督学习,172页pdf
专知会员服务
132+阅读 · 2022年10月4日
【斯坦福博士论文】具有学习约束的深度表示,239页pdf
专知会员服务
60+阅读 · 2022年9月13日
【MIT博士论文】异构医疗数据表示学习,193页pdf
专知会员服务
52+阅读 · 2022年9月3日
【ETH博士论文】贝叶斯深度学习,241页pdf
专知
9+阅读 · 2022年1月16日
国家自然科学基金
21+阅读 · 2016年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
7+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
Arxiv
0+阅读 · 2022年11月20日
Arxiv
12+阅读 · 2022年4月12日
Deformable Style Transfer
Arxiv
14+阅读 · 2020年3月24日
VIP会员
相关VIP内容
【伯克利博士论文】学习在动态环境中泛化,103页pdf
专知会员服务
69+阅读 · 2022年10月12日
【牛津大学博士论文】自监督学习视频理解,143页pdf
专知会员服务
38+阅读 · 2022年10月11日
【牛津大学博士论文】多模态自监督学习,172页pdf
专知会员服务
132+阅读 · 2022年10月4日
【斯坦福博士论文】具有学习约束的深度表示,239页pdf
专知会员服务
60+阅读 · 2022年9月13日
【MIT博士论文】异构医疗数据表示学习,193页pdf
专知会员服务
52+阅读 · 2022年9月3日
相关基金
国家自然科学基金
21+阅读 · 2016年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
7+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
3+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
1+阅读 · 2012年12月31日
相关论文
Arxiv
0+阅读 · 2022年11月20日
Arxiv
12+阅读 · 2022年4月12日
Deformable Style Transfer
Arxiv
14+阅读 · 2020年3月24日
Top
微信扫码咨询专知VIP会员