回归作为分类的对应,是一个具有广泛应用的主要范式。域自适应回归将回归器从有标记的源域推广到无标记的目标域。现有的区域适应回归方法仅在浅层区取得了积极的结果。一个问题出现了:为什么在深层机制中学习不变表征不那么明显?本文的一个重要发现是,分类对特征尺度具有鲁棒性,而回归则不具有鲁棒性,对齐深度表示的分布会改变特征尺度,阻碍领域自适应回归。基于这一发现,我们提出了通过表示空间的正交基来关闭域间隙,这是自由的特征缩放。受格拉斯曼流形的黎曼几何启发,我们定义了表示子空间上的几何距离,并通过最小化它来学习深度可迁移表示。为了避免破坏深度表示的几何性质,我们进一步引入了基不匹配惩罚来匹配正交基的排序跨表示子空间。我们的方法在三个领域自适应回归基准上进行了评价,本文构建了其中两个基准。我们的方法明显优于最先进的方法。

http://ise.thss.tsinghua.edu.cn/~mlong/doc/Representation-Subspace-Distance-for-Domain-Adaptation-Regression-icml21.pdf

成为VIP会员查看完整内容
21

相关内容

专知会员服务
12+阅读 · 2021年8月29日
专知会员服务
37+阅读 · 2021年8月20日
专知会员服务
11+阅读 · 2021年7月4日
专知会员服务
30+阅读 · 2021年6月24日
专知会员服务
34+阅读 · 2021年6月3日
专知会员服务
79+阅读 · 2021年5月10日
专知会员服务
61+阅读 · 2021年3月12日
【AAAI2021】RSPNet: 相对速度感知的无监督视频表示学习
专知会员服务
18+阅读 · 2021年2月12日
【ICML2020】对比多视角表示学习
专知
18+阅读 · 2020年6月28日
ICLR 2019 | 基于复杂空间关系旋转的知识表示方法
PaperWeekly
15+阅读 · 2019年7月29日
【泡泡点云时空】完美配准:具有平滑密度的3D点云配准
泡泡机器人SLAM
60+阅读 · 2019年5月16日
t-SNE:最好的降维方法之一
人工智能前沿讲习班
25+阅读 · 2019年2月24日
论文浅尝 | 对于知识图谱嵌入表示的几何形状理解
开放知识图谱
5+阅读 · 2018年12月11日
一文简述ResNet及其多种变体
机器之心
23+阅读 · 2018年4月22日
深度判别和共享特征学习的图像分类
计算机视觉战队
6+阅读 · 2017年9月27日
Disentangled Information Bottleneck
Arxiv
12+阅读 · 2020年12月22日
Heterogeneous Graph Transformer
Arxiv
27+阅读 · 2020年3月3日
Arxiv
15+阅读 · 2020年2月5日
Arxiv
3+阅读 · 2019年8月26日
Deep Graph Infomax
Arxiv
16+阅读 · 2018年12月21日
Arxiv
3+阅读 · 2018年6月24日
VIP会员
相关VIP内容
专知会员服务
12+阅读 · 2021年8月29日
专知会员服务
37+阅读 · 2021年8月20日
专知会员服务
11+阅读 · 2021年7月4日
专知会员服务
30+阅读 · 2021年6月24日
专知会员服务
34+阅读 · 2021年6月3日
专知会员服务
79+阅读 · 2021年5月10日
专知会员服务
61+阅读 · 2021年3月12日
【AAAI2021】RSPNet: 相对速度感知的无监督视频表示学习
专知会员服务
18+阅读 · 2021年2月12日
相关资讯
【ICML2020】对比多视角表示学习
专知
18+阅读 · 2020年6月28日
ICLR 2019 | 基于复杂空间关系旋转的知识表示方法
PaperWeekly
15+阅读 · 2019年7月29日
【泡泡点云时空】完美配准:具有平滑密度的3D点云配准
泡泡机器人SLAM
60+阅读 · 2019年5月16日
t-SNE:最好的降维方法之一
人工智能前沿讲习班
25+阅读 · 2019年2月24日
论文浅尝 | 对于知识图谱嵌入表示的几何形状理解
开放知识图谱
5+阅读 · 2018年12月11日
一文简述ResNet及其多种变体
机器之心
23+阅读 · 2018年4月22日
深度判别和共享特征学习的图像分类
计算机视觉战队
6+阅读 · 2017年9月27日
相关论文
Disentangled Information Bottleneck
Arxiv
12+阅读 · 2020年12月22日
Heterogeneous Graph Transformer
Arxiv
27+阅读 · 2020年3月3日
Arxiv
15+阅读 · 2020年2月5日
Arxiv
3+阅读 · 2019年8月26日
Deep Graph Infomax
Arxiv
16+阅读 · 2018年12月21日
Arxiv
3+阅读 · 2018年6月24日
微信扫码咨询专知VIP会员