会员服务
正则化项 · 超平面 · 超平面分离 · 簇 · 规范化的 ·
2018 年 6 月 28 日
A New Angle on L2 Regularization
翻译：L2 正规化的新角度
Thomas Tanay,Lewis D Griffin
Thomas Tanay,Lewis D Griffin
from arxiv, An explorable explanation on the phenomenon of adversarial examples in linear classification and its relation to L2 regularization. Interactive version available at: https://thomas-tanay.github.io/post--L2-regularization/

Imagine two high-dimensional clusters and a hyperplane separating them. Consider in particular the angle between: the direction joining the two clusters' centroids and the normal to the hyperplane. In linear classification, this angle depends on the level of L2 regularization used. Can you explain why?


翻译：想象一下两个高维的星团和高空机将它们分开。 请特别考虑两个星团之间的角度: 连接两个星团的圆球体的方向和高空飞机的正常方向。 在线性分类中, 这个角度取决于 L2 的正规化水平 。 您能解释一下原因吗?
0
下载
关闭预览

相关内容

因果图，Causal Graphs，52页ppt
因果图，Causal Graphs，52页ppt
专知会员服务
246+阅读 · 2020年4月19日
【斯坦福大学】Dropout的隐性和显性正则化效应，Regularization Effects
【斯坦福大学】Dropout的隐性和显性正则化效应，Regularization Effects
专知会员服务
33+阅读 · 2020年3月4日
【新书】数字图像(影像)处理手第二版，2176pdf，Mathematical Methods in Imaging
【新书】数字图像(影像)处理手第二版，2176pdf，Mathematical Methods in Imaging
专知会员服务
88+阅读 · 2020年2月12日
【课程】普林斯顿大学19年春季学期《机器学习优化》课程讲义
【课程】普林斯顿大学19年春季学期《机器学习优化》课程讲义
专知会员服务
84+阅读 · 2019年10月29日
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
专知会员服务
47+阅读 · 2019年10月17日
Connections between Support Vector Machines, Wasserstein distance and gradient-penalty GANs
Connections between Support Vector Machines, Wasserstein distance and gradient-penalty GANs
专知会员服务
34+阅读 · 2019年10月17日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
151+阅读 · 2019年10月12日
机器学习入门的经验与建议
机器学习入门的经验与建议
专知会员服务
92+阅读 · 2019年10月10日
【CMU卡内基梅隆大学】深度学习在计算机视觉的应用：方法，解释，因果与公平性
【CMU卡内基梅隆大学】深度学习在计算机视觉的应用：方法，解释，因果与公平性
专知会员服务
81+阅读 · 2019年10月9日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
103+阅读 · 2019年10月9日
Hierarchically Structured Meta-learning
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
Transferring Knowledge across Learning Processes
CreateAMind
27+阅读 · 2019年5月18日
Unsupervised Learning via Meta-Learning
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
【推荐】用Python/OpenCV实现增强现实
【推荐】用Python/OpenCV实现增强现实
机器学习研究会
15+阅读 · 2017年11月16日
gan生成图像at 1024² 的 代码 论文
gan生成图像at 1024² 的 代码 论文
CreateAMind
4+阅读 · 2017年10月31日
【学习】(Python)SVM数据分类
【学习】(Python)SVM数据分类
机器学习研究会
6+阅读 · 2017年10月15日
Adversarial Variational Bayes: Unifying VAE and GAN 代码
Adversarial Variational Bayes: Unifying VAE and GAN 代码
CreateAMind
7+阅读 · 2017年10月4日
【推荐】SVM实例教程
【推荐】SVM实例教程
机器学习研究会
17+阅读 · 2017年8月26日
Auto-Encoding GAN
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
Meta-Learning to Cluster
Meta-Learning to Cluster
Arxiv
17+阅读 · 2019年10月30日
HyperGCN: A New Method of Training Graph Convolutional Networks on Hypergraphs
HyperGCN: A New Method of Training Graph Convolutional Networks on Hypergraphs
Arxiv
13+阅读 · 2019年5月22日
Generalization and Regularization in DQN
Generalization and Regularization in DQN
Arxiv
6+阅读 · 2019年1月30日
On orthogonal projections for dimension reduction and applications in variational loss functions for learning problems
Arxiv
3+阅读 · 2019年1月22日
Class-Balanced Loss Based on Effective Number of Samples
Arxiv
12+阅读 · 2019年1月16日
A General and Adaptive Robust Loss Function
A General and Adaptive Robust Loss Function
Arxiv
8+阅读 · 2018年11月5日
Supervised classification of Dermatological diseases by Deep learning
Supervised classification of Dermatological diseases by Deep learning
Arxiv
4+阅读 · 2018年7月31日
Few Shot Learning with Simplex
Few Shot Learning with Simplex
Arxiv
5+阅读 · 2018年7月27日
Road surface 3d reconstruction based on dense subpixel disparity map estimation
Arxiv
3+阅读 · 2018年7月5日
Being Robust (in High Dimensions) Can Be Practical
Arxiv
3+阅读 · 2017年12月14日
VIP会员
文章信息
前往arXiv
下载PDF
相关主题
正则化项
超平面
超平面分离
簇
规范化的
相关VIP内容
因果图，Causal Graphs，52页ppt
因果图，Causal Graphs，52页ppt
专知会员服务
246+阅读 · 2020年4月19日
【斯坦福大学】Dropout的隐性和显性正则化效应，Regularization Effects
【斯坦福大学】Dropout的隐性和显性正则化效应，Regularization Effects
专知会员服务
33+阅读 · 2020年3月4日
【新书】数字图像(影像)处理手第二版，2176pdf，Mathematical Methods in Imaging
【新书】数字图像(影像)处理手第二版，2176pdf，Mathematical Methods in Imaging
专知会员服务
88+阅读 · 2020年2月12日
【课程】普林斯顿大学19年春季学期《机器学习优化》课程讲义
【课程】普林斯顿大学19年春季学期《机器学习优化》课程讲义
专知会员服务
84+阅读 · 2019年10月29日
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
专知会员服务
47+阅读 · 2019年10月17日
Connections between Support Vector Machines, Wasserstein distance and gradient-penalty GANs
Connections between Support Vector Machines, Wasserstein distance and gradient-penalty GANs
专知会员服务
34+阅读 · 2019年10月17日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
151+阅读 · 2019年10月12日
机器学习入门的经验与建议
机器学习入门的经验与建议
专知会员服务
92+阅读 · 2019年10月10日
【CMU卡内基梅隆大学】深度学习在计算机视觉的应用：方法，解释，因果与公平性
【CMU卡内基梅隆大学】深度学习在计算机视觉的应用：方法，解释，因果与公平性
专知会员服务
81+阅读 · 2019年10月9日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
103+阅读 · 2019年10月9日
热门VIP内容
相关资讯
Hierarchically Structured Meta-learning
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
Transferring Knowledge across Learning Processes
CreateAMind
27+阅读 · 2019年5月18日
Unsupervised Learning via Meta-Learning
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
【推荐】用Python/OpenCV实现增强现实
【推荐】用Python/OpenCV实现增强现实
机器学习研究会
15+阅读 · 2017年11月16日
gan生成图像at 1024² 的 代码 论文
gan生成图像at 1024² 的 代码 论文
CreateAMind
4+阅读 · 2017年10月31日
【学习】(Python)SVM数据分类
【学习】(Python)SVM数据分类
机器学习研究会
6+阅读 · 2017年10月15日
Adversarial Variational Bayes: Unifying VAE and GAN 代码
Adversarial Variational Bayes: Unifying VAE and GAN 代码
CreateAMind
7+阅读 · 2017年10月4日
【推荐】SVM实例教程
【推荐】SVM实例教程
机器学习研究会
17+阅读 · 2017年8月26日
Auto-Encoding GAN
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
相关论文
Meta-Learning to Cluster
Meta-Learning to Cluster
Arxiv
17+阅读 · 2019年10月30日
HyperGCN: A New Method of Training Graph Convolutional Networks on Hypergraphs
HyperGCN: A New Method of Training Graph Convolutional Networks on Hypergraphs
Arxiv
13+阅读 · 2019年5月22日
Generalization and Regularization in DQN
Generalization and Regularization in DQN
Arxiv
6+阅读 · 2019年1月30日
On orthogonal projections for dimension reduction and applications in variational loss functions for learning problems
Arxiv
3+阅读 · 2019年1月22日
Class-Balanced Loss Based on Effective Number of Samples
Arxiv
12+阅读 · 2019年1月16日
A General and Adaptive Robust Loss Function
A General and Adaptive Robust Loss Function
Arxiv
8+阅读 · 2018年11月5日
Supervised classification of Dermatological diseases by Deep learning
Supervised classification of Dermatological diseases by Deep learning
Arxiv
4+阅读 · 2018年7月31日
Few Shot Learning with Simplex
Few Shot Learning with Simplex
Arxiv
5+阅读 · 2018年7月27日
Road surface 3d reconstruction based on dense subpixel disparity map estimation
Arxiv
3+阅读 · 2018年7月5日
Being Robust (in High Dimensions) Can Be Practical
Arxiv
3+阅读 · 2017年12月14日
Top
微信扫码咨询专知VIP会员
Top