最近最优传输(OT)理论在机器学习中的几个应用都依赖于正则化,尤其是熵和Sinkhorn算法。由于矩阵向量乘积在Sinkhorn算法中是普遍存在的,一些工作已经提出使用低秩因子来近似其迭代中出现的核矩阵。另一种方法是在OT问题中考虑的可行耦合集上施加低非负秩约束,不需要对代价或核矩阵进行逼近。这条路线首先由forrow2018探索,他提出了一种为平方欧氏地面成本量身定制的算法,使用了一个代理目标,可以通过正则化的Wasserstein重心机制来解决。在此基础上,我们引入了一种通用方法,旨在完全通用性地解决具有任意代价的低非负秩约束下的OT问题。我们的算法依赖于低秩耦合的显式分解,将其作为由公共边际连接的子耦合因子的乘积; 与NMF方法类似,我们交替更新这些因素。证明了该算法的非渐近平稳收敛性,并通过基准实验证明了该算法的有效性。

https://www.zhuanzhi.ai/paper/9f498d13bd99855dfac185ee9d905999

成为VIP会员查看完整内容
38

相关内容

专知会员服务
23+阅读 · 2021年9月22日
专知会员服务
25+阅读 · 2021年9月9日
专知会员服务
32+阅读 · 2021年9月7日
专知会员服务
31+阅读 · 2021年8月7日
专知会员服务
36+阅读 · 2021年7月17日
专知会员服务
16+阅读 · 2021年7月13日
专知会员服务
26+阅读 · 2021年7月11日
专知会员服务
23+阅读 · 2021年6月8日
【ICML2021】具有线性复杂度的Transformer的相对位置编码
专知会员服务
24+阅读 · 2021年5月20日
专知会员服务
81+阅读 · 2021年5月10日
【ICML2021】因果匹配领域泛化
专知
12+阅读 · 2021年8月12日
【NeurIPS2020】无限可能的联合对比学习
专知
3+阅读 · 2020年10月2日
【ICML2020】图神经网络谱聚类
专知
10+阅读 · 2020年7月7日
【CVPR2020】跨模态哈希的无监督知识蒸馏
专知
5+阅读 · 2020年6月25日
元学习(Meta-Learning) 综述及五篇顶会论文推荐
Arxiv
0+阅读 · 2021年10月14日
Arxiv
9+阅读 · 2021年6月21日
Arxiv
6+阅读 · 2020年10月8日
Arxiv
136+阅读 · 2018年10月8日
VIP会员
相关VIP内容
专知会员服务
23+阅读 · 2021年9月22日
专知会员服务
25+阅读 · 2021年9月9日
专知会员服务
32+阅读 · 2021年9月7日
专知会员服务
31+阅读 · 2021年8月7日
专知会员服务
36+阅读 · 2021年7月17日
专知会员服务
16+阅读 · 2021年7月13日
专知会员服务
26+阅读 · 2021年7月11日
专知会员服务
23+阅读 · 2021年6月8日
【ICML2021】具有线性复杂度的Transformer的相对位置编码
专知会员服务
24+阅读 · 2021年5月20日
专知会员服务
81+阅读 · 2021年5月10日
相关资讯
微信扫码咨询专知VIP会员