I propose a way to use non-Euclidean norms to formulate a QR-like factorization which can unlock interesting and potentially useful properties of non-Euclidean norms - for example the ability of $l^1$ norm to suppresss outliers or promote sparsity. A classic QR factorization of a matrix $\mathbf{A}$ computes an upper triangular matrix $\mathbf{R}$ and orthogonal matrix $\mathbf{Q}$ such that $\mathbf{A} = \mathbf{QR}$. To generalize this factorization to a non-Euclidean norm $\| \cdot \|$ I relax the orthogonality requirement for $\mathbf{Q}$ and instead require it have condition number $\kappa \left ( \mathbf{Q} \right ) = \| \mathbf{Q} ^{-1} \| \| \mathbf{Q} \|$ that is bounded independently of $\mathbf{A}$. I present the algorithm for computing $\mathbf{Q}$ and $\mathbf{R}$ and prove that this algorithm results in $\mathbf{Q}$ with the desired properties. I also prove that this algorithm generalizes classic QR factorization in the sense that when the norm is chosen to be Euclidean: $\| \cdot \|=\| \cdot \|_2$ then $\mathbf{Q}$ is orthogonal. Finally I present numerical results confirming mathematical results with $l^1$ and $l^{\infty}$ norms. I supply Python code for experimentation.


翻译:我提出一种方法来使用非欧洲的规范来制定 QR 类的参数化, 它可以解开非欧洲的规范中有趣和潜在有用的属性。 例如, $1$ 的规范能够抑制外部值或促进线性。 一个矩阵$\ mathbf{A} 的典型 QR 因子化 $\ mathbf{R} 计算一个上三角矩阵$\ mathbf{R} 和 orthonal 矩阵 $\ mathb} 美元( mathb} maclb} licbb} = mathbralb} $_r_r_rxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxx

0
下载
关闭预览

相关内容

Fariz Darari简明《博弈论Game Theory》介绍,35页ppt
专知会员服务
109+阅读 · 2020年5月15日
Stabilizing Transformers for Reinforcement Learning
专知会员服务
58+阅读 · 2019年10月17日
机器学习入门的经验与建议
专知会员服务
92+阅读 · 2019年10月10日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
103+阅读 · 2019年10月9日
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
已删除
将门创投
4+阅读 · 2019年5月8日
LeetCode的C++ 11/Python3 题解及解释
专知
16+阅读 · 2019年4月13日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
Disentangled的假设的探讨
CreateAMind
9+阅读 · 2018年12月10日
Hierarchical Disentangled Representations
CreateAMind
4+阅读 · 2018年4月15日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Arxiv
0+阅读 · 2021年3月18日
Arxiv
0+阅读 · 2021年3月18日
Arxiv
0+阅读 · 2021年3月16日
VIP会员
相关资讯
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
已删除
将门创投
4+阅读 · 2019年5月8日
LeetCode的C++ 11/Python3 题解及解释
专知
16+阅读 · 2019年4月13日
强化学习的Unsupervised Meta-Learning
CreateAMind
17+阅读 · 2019年1月7日
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
Disentangled的假设的探讨
CreateAMind
9+阅读 · 2018年12月10日
Hierarchical Disentangled Representations
CreateAMind
4+阅读 · 2018年4月15日
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Top
微信扫码咨询专知VIP会员