会员服务
ICML 2021 · 解纠缠表示学习 ·
2021 年 9 月 19 日
【ICML2021】从相关数据中学习的解纠缠表示
专知会员服务
专知会员服务
专知，提供专业可信的知识分发服务，让认知协作更快更好！

解纠缠方法的重点一直是识别数据中的独立变异因素。然而，真实世界观察的因果变量在统计上往往不是独立的。在这项工作中，我们通过分析大规模实证研究(包括4260个模型)中对相关数据最突出的解纠缠方法的行为，弥合了与现实场景的差距。我们展示并量化了从数据集中系统导出的相关性被学习并反映在潜在表示中，这对解纠缠的下游应用(如公平)有影响。我们还演示了如何解决这些潜在的相关性，要么在训练期间使用弱监督，要么通过事后纠正带有少量标签的预训练模型。

https://www.zhuanzhi.ai/paper/4c164ade5a0d379632739e73d99900b2

成为VIP会员查看完整内容
https://www.zhuanzhi.ai/paper/4c164ade5a0d379632739e73d99900b2
On Disentangled Representations Learned From Correlated Data
19

相关内容

【NeurIPS2021】利用预训练对比表示征的逆问题
专知会员服务
10+阅读 · 2021年10月17日
【ICCV2021】视频自动编码器:自监督解纠缠的静态3D结构和运动
专知会员服务
9+阅读 · 2021年10月8日
【ICML2021】连续结构非平稳性中的深度强化学习
专知会员服务
15+阅读 · 2021年9月25日
【ICML2021】通过乘积流形投影学习解纠缠表示
专知会员服务
7+阅读 · 2021年9月20日
【ICML2021】GeomCA: 数据表示几何评估
专知会员服务
15+阅读 · 2021年9月11日
【ICML2021】教师-学生设置中的持续学习:任务相似性的影响
专知会员服务
20+阅读 · 2021年9月1日
【ICML2021】基于共享表示的个性化联邦学习
专知会员服务
15+阅读 · 2021年7月21日
【ICML2021】面向增长数据的自适应神经架构
专知会员服务
25+阅读 · 2021年7月8日
【ICML2021】学习对称解纠缠多对象表示的有效迭代平摊推理
专知会员服务
15+阅读 · 2021年6月9日
【ICML2021】数据表示的几何评估
专知会员服务
38+阅读 · 2021年6月3日
【ICML2021】低秩Sinkhorn 分解
【ICML2021】低秩Sinkhorn 分解
专知
9+阅读 · 2021年8月20日
【ICML2021】因果匹配领域泛化
【ICML2021】因果匹配领域泛化
专知
12+阅读 · 2021年8月12日
【CVPR2021】半监督迁移学习的自适应一致性正则化
【CVPR2021】半监督迁移学习的自适应一致性正则化
专知
41+阅读 · 2021年3月7日
【AAAI2021】自监督对应学习的对比转换
【AAAI2021】自监督对应学习的对比转换
专知
12+阅读 · 2020年12月11日
【NeurIPS2020 】数据扩充的图对比学习
【NeurIPS2020 】数据扩充的图对比学习
专知
9+阅读 · 2020年11月9日
【CVPR2020】L2 ^GCN：图卷积网络的分层学习高效训练
【CVPR2020】L2 ^GCN：图卷积网络的分层学习高效训练
专知
11+阅读 · 2020年3月31日
【华南理工大学-CVPR2020-Oral】通过结构正则化深度聚类实现无监督域自适应
【华南理工大学-CVPR2020-Oral】通过结构正则化深度聚类实现无监督域自适应
专知
3+阅读 · 2020年3月20日
【MIT-伯克利-ICLR2020】对比表示蒸馏，Contrastive Representation Distillation
【MIT-伯克利-ICLR2020】对比表示蒸馏，Contrastive Representation Distillation
专知
54+阅读 · 2020年3月12日
【CVPR2019】弱监督图像分类建模
【CVPR2019】弱监督图像分类建模
深度学习大讲堂
38+阅读 · 2019年7月25日
深度思考 | 从BERT看大规模数据的无监督利用
深度思考 | 从BERT看大规模数据的无监督利用
PaperWeekly
11+阅读 · 2019年2月18日
Quantum Embedding Search for Quantum Machine Learning
Arxiv
0+阅读 · 2021年11月8日
Case-based Reasoning for Natural Language Queries over Knowledge Bases
Arxiv
0+阅读 · 2021年11月7日
TaCL: Improving BERT Pre-training with Token-aware Contrastive Learning
Arxiv
0+阅读 · 2021年11月7日
Quantum tangent kernel
Quantum tangent kernel
Arxiv
0+阅读 · 2021年11月4日
LRC-BERT: Latent-representation Contrastive Knowledge Distillation for Natural Language Understanding
LRC-BERT: Latent-representation Contrastive Knowledge Distillation for Natural Language Understanding
Arxiv
6+阅读 · 2020年12月14日
Multi-Modal Domain Adaptation for Fine-Grained Action Recognition
Multi-Modal Domain Adaptation for Fine-Grained Action Recognition
Arxiv
7+阅读 · 2020年3月19日
UniLMv2: Pseudo-Masked Language Models for Unified Language Model Pre-Training
Arxiv
15+阅读 · 2020年2月28日
UniViLM: A Unified Video and Language Pre-Training Model for Multimodal Understanding and Generation
UniViLM: A Unified Video and Language Pre-Training Model for Multimodal Understanding and Generation
Arxiv
19+阅读 · 2020年2月15日
Large Scale GAN Training for High Fidelity Natural Image Synthesis
Arxiv
5+阅读 · 2018年9月28日
Continuous Time Dynamic Topic Models
Arxiv
3+阅读 · 2015年5月16日
VIP会员
相关主题
ICML 2021
解纠缠表示学习
相关VIP内容
【NeurIPS2021】利用预训练对比表示征的逆问题
专知会员服务
10+阅读 · 2021年10月17日
【ICCV2021】视频自动编码器:自监督解纠缠的静态3D结构和运动
专知会员服务
9+阅读 · 2021年10月8日
【ICML2021】连续结构非平稳性中的深度强化学习
专知会员服务
15+阅读 · 2021年9月25日
【ICML2021】通过乘积流形投影学习解纠缠表示
专知会员服务
7+阅读 · 2021年9月20日
【ICML2021】GeomCA: 数据表示几何评估
专知会员服务
15+阅读 · 2021年9月11日
【ICML2021】教师-学生设置中的持续学习:任务相似性的影响
专知会员服务
20+阅读 · 2021年9月1日
【ICML2021】基于共享表示的个性化联邦学习
专知会员服务
15+阅读 · 2021年7月21日
【ICML2021】面向增长数据的自适应神经架构
专知会员服务
25+阅读 · 2021年7月8日
【ICML2021】学习对称解纠缠多对象表示的有效迭代平摊推理
专知会员服务
15+阅读 · 2021年6月9日
【ICML2021】数据表示的几何评估
专知会员服务
38+阅读 · 2021年6月3日
热门VIP内容
相关资讯
【ICML2021】低秩Sinkhorn 分解
【ICML2021】低秩Sinkhorn 分解
专知
9+阅读 · 2021年8月20日
【ICML2021】因果匹配领域泛化
【ICML2021】因果匹配领域泛化
专知
12+阅读 · 2021年8月12日
【CVPR2021】半监督迁移学习的自适应一致性正则化
【CVPR2021】半监督迁移学习的自适应一致性正则化
专知
41+阅读 · 2021年3月7日
【AAAI2021】自监督对应学习的对比转换
【AAAI2021】自监督对应学习的对比转换
专知
12+阅读 · 2020年12月11日
【NeurIPS2020 】数据扩充的图对比学习
【NeurIPS2020 】数据扩充的图对比学习
专知
9+阅读 · 2020年11月9日
【CVPR2020】L2 ^GCN：图卷积网络的分层学习高效训练
【CVPR2020】L2 ^GCN：图卷积网络的分层学习高效训练
专知
11+阅读 · 2020年3月31日
【华南理工大学-CVPR2020-Oral】通过结构正则化深度聚类实现无监督域自适应
【华南理工大学-CVPR2020-Oral】通过结构正则化深度聚类实现无监督域自适应
专知
3+阅读 · 2020年3月20日
【MIT-伯克利-ICLR2020】对比表示蒸馏，Contrastive Representation Distillation
【MIT-伯克利-ICLR2020】对比表示蒸馏，Contrastive Representation Distillation
专知
54+阅读 · 2020年3月12日
【CVPR2019】弱监督图像分类建模
【CVPR2019】弱监督图像分类建模
深度学习大讲堂
38+阅读 · 2019年7月25日
深度思考 | 从BERT看大规模数据的无监督利用
深度思考 | 从BERT看大规模数据的无监督利用
PaperWeekly
11+阅读 · 2019年2月18日
相关论文
Quantum Embedding Search for Quantum Machine Learning
Arxiv
0+阅读 · 2021年11月8日
Case-based Reasoning for Natural Language Queries over Knowledge Bases
Arxiv
0+阅读 · 2021年11月7日
TaCL: Improving BERT Pre-training with Token-aware Contrastive Learning
Arxiv
0+阅读 · 2021年11月7日
Quantum tangent kernel
Quantum tangent kernel
Arxiv
0+阅读 · 2021年11月4日
LRC-BERT: Latent-representation Contrastive Knowledge Distillation for Natural Language Understanding
LRC-BERT: Latent-representation Contrastive Knowledge Distillation for Natural Language Understanding
Arxiv
6+阅读 · 2020年12月14日
Multi-Modal Domain Adaptation for Fine-Grained Action Recognition
Multi-Modal Domain Adaptation for Fine-Grained Action Recognition
Arxiv
7+阅读 · 2020年3月19日
UniLMv2: Pseudo-Masked Language Models for Unified Language Model Pre-Training
Arxiv
15+阅读 · 2020年2月28日
UniViLM: A Unified Video and Language Pre-Training Model for Multimodal Understanding and Generation
UniViLM: A Unified Video and Language Pre-Training Model for Multimodal Understanding and Generation
Arxiv
19+阅读 · 2020年2月15日
Large Scale GAN Training for High Fidelity Natural Image Synthesis
Arxiv
5+阅读 · 2018年9月28日
Continuous Time Dynamic Topic Models
Arxiv
3+阅读 · 2015年5月16日
微信扫码咨询专知VIP会员
Top