Sparse matrix factorization is the problem of approximating a matrix Z by a product of L sparse factors X^(L) X^(L--1). .. X^(1). This paper focuses on identifiability issues that appear in this problem, in view of better understanding under which sparsity constraints the problem is well-posed. We give conditions under which the problem of factorizing a matrix into two sparse factors admits a unique solution, up to unavoidable permutation and scaling equivalences. Our general framework considers an arbitrary family of prescribed sparsity patterns, allowing us to capture more structured notions of sparsity than simply the count of nonzero entries. These conditions are shown to be related to essential uniqueness of exact matrix decomposition into a sum of rank-one matrices, with structured sparsity constraints. A companion paper further exploits these conditions to derive identifiability properties in multilayer sparse matrix factorization of some well-known matrices like the Hadamard or the discrete Fourier transform matrices.


翻译:偏差矩阵因子化是一个由L稀薄因素 X ⁇ (L) X ⁇ (L--1). X ⁇ (L--1).. X ⁇ (1) 产生的接近矩阵Z的问题。本文件侧重于这一问题中出现的可识别性问题,因为人们可以更好地了解宽度制约了这一问题。我们给出了一种条件,使将矩阵化为两个稀薄因素的问题承认了一种独特的解决办法,直至不可避免的变异和缩放等值。我们的总框架考虑到一个任意的任意的任意的任意的封闭模式组合,使我们能够捕捉到比简单的非零条目计数更结构化的宽度概念。这些条件显示与精确的矩阵分解成一等矩阵总和、结构宽度制约有关。一份配套文件进一步利用这些条件在诸如Hadamard或离散的四更变矩阵的多层稀薄矩阵化中得出可识别性特性。

0
下载
关闭预览

相关内容

专知会员服务
27+阅读 · 2021年8月20日
【图与几何深度学习】Graph and geometric deep learning,49页ppt
专知会员服务
52+阅读 · 2020年12月24日
因果图,Causal Graphs,52页ppt
专知会员服务
238+阅读 · 2020年4月19日
2019年机器学习框架回顾
专知会员服务
35+阅读 · 2019年10月11日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
96+阅读 · 2019年10月9日
MIT线性代数(Linear Algebra)中文笔记
专知
48+阅读 · 2019年11月4日
神器Cobalt Strike3.13破解版
黑白之道
12+阅读 · 2019年3月1日
逆强化学习-学习人先验的动机
CreateAMind
15+阅读 · 2019年1月18日
大数据 | 顶级SCI期刊专刊/国际会议信息7条
Call4Papers
10+阅读 · 2018年12月29日
笔记 | Sentiment Analysis
黑龙江大学自然语言处理实验室
10+阅读 · 2018年5月6日
计算机视觉近一年进展综述
机器学习研究会
8+阅读 · 2017年11月25日
【论文】变分推断(Variational inference)的总结
机器学习研究会
39+阅读 · 2017年11月16日
【推荐】免费书(草稿):数据科学的数学基础
机器学习研究会
19+阅读 · 2017年10月1日
【推荐】RNN/LSTM时序预测
机器学习研究会
25+阅读 · 2017年9月8日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Arxiv
9+阅读 · 2021年3月8日
Arxiv
3+阅读 · 2018年10月18日
VIP会员
相关资讯
MIT线性代数(Linear Algebra)中文笔记
专知
48+阅读 · 2019年11月4日
神器Cobalt Strike3.13破解版
黑白之道
12+阅读 · 2019年3月1日
逆强化学习-学习人先验的动机
CreateAMind
15+阅读 · 2019年1月18日
大数据 | 顶级SCI期刊专刊/国际会议信息7条
Call4Papers
10+阅读 · 2018年12月29日
笔记 | Sentiment Analysis
黑龙江大学自然语言处理实验室
10+阅读 · 2018年5月6日
计算机视觉近一年进展综述
机器学习研究会
8+阅读 · 2017年11月25日
【论文】变分推断(Variational inference)的总结
机器学习研究会
39+阅读 · 2017年11月16日
【推荐】免费书(草稿):数据科学的数学基础
机器学习研究会
19+阅读 · 2017年10月1日
【推荐】RNN/LSTM时序预测
机器学习研究会
25+阅读 · 2017年9月8日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Top
微信扫码咨询专知VIP会员