会员服务
Minimax · SimPLe · 散度 · 统计理论 ·
2023 年 8 月 2 日
A short note on an inequality between KL and TV
翻译：暂无翻译
Clément L. Canonne
Clément L. Canonne
from arxiv, Update: positive answer to Question 8 ("from the TFL to the BH bound"), communicated to me by Hao-Chung Cheng

The goal of this short note is to discuss the relation between Kullback--Leibler divergence and total variation distance, starting with the celebrated Pinsker's inequality relating the two, before switching to a simple, yet (arguably) more useful inequality, apparently not as well known, due to Bretagnolle and Huber. We also discuss applications of this bound for minimax testing lower bounds.


翻译：暂无翻译
0
下载
关闭预览

相关内容

Linux导论，Introduction to Linux，96页ppt
Linux导论，Introduction to Linux，96页ppt
专知会员服务
77+阅读 · 2020年7月26日
【跨语言BERT模型大集合】Transfer learning is increasingly going multilingual with language-specific BERT models
专知会员服务
53+阅读 · 2020年1月30日
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
专知会员服务
28+阅读 · 2019年10月18日
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
专知会员服务
47+阅读 · 2019年10月17日
Connections between Support Vector Machines, Wasserstein distance and gradient-penalty GANs
Connections between Support Vector Machines, Wasserstein distance and gradient-penalty GANs
专知会员服务
34+阅读 · 2019年10月17日
Stabilizing Transformers for Reinforcement Learning
Stabilizing Transformers for Reinforcement Learning
专知会员服务
58+阅读 · 2019年10月17日
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
专知会员服务
56+阅读 · 2019年10月17日
《DeepGCNs: Making GCNs Go as Deep as CNNs》
《DeepGCNs: Making GCNs Go as Deep as CNNs》
专知会员服务
30+阅读 · 2019年10月17日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
151+阅读 · 2019年10月12日
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
专知会员服务
39+阅读 · 2019年10月9日
Hierarchically Structured Meta-learning
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
Transferring Knowledge across Learning Processes
CreateAMind
27+阅读 · 2019年5月18日
Unsupervised Learning via Meta-Learning
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
disentangled-representation-papers
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
STRCF for Visual Object Tracking
STRCF for Visual Object Tracking
统计学习与视觉计算组
14+阅读 · 2018年5月29日
Focal Loss for Dense Object Detection
Focal Loss for Dense Object Detection
统计学习与视觉计算组
11+阅读 · 2018年3月15日
可解释的CNN
可解释的CNN
CreateAMind
17+阅读 · 2017年10月5日
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
KingsGarden
13+阅读 · 2017年7月16日
From Softmax to Sparsemax-ICML16（1）
From Softmax to Sparsemax-ICML16（1）
KingsGarden
72+阅读 · 2016年11月26日
Hamilton-Jacibi方程的弱KAM理论
国家自然科学基金
1+阅读 · 2017年12月31日
城市“建成环境——空间行为”的多尺度影响关系与机理研究
国家自然科学基金
10+阅读 · 2017年12月31日
Musielak-Orlicz-Sobolev 空间中的迹嵌入及其应用
国家自然科学基金
1+阅读 · 2015年12月31日
DMB信号水汽探测方法若干问题研究
国家自然科学基金
1+阅读 · 2015年12月31日
Weyl半金属TaAs/NbAs在极端条件下的输运性质研究
国家自然科学基金
0+阅读 · 2015年12月31日
Schr？dinger-Poisson方程守恒DDG方法研究
国家自然科学基金
1+阅读 · 2015年12月31日
基于决策模型和预备电位的运动想象BCI研究
国家自然科学基金
2+阅读 · 2015年12月31日
哈密尔顿系统及多体问题的周期解
国家自然科学基金
0+阅读 · 2014年12月31日
动态Gr？bner 基与GVW算法
国家自然科学基金
0+阅读 · 2014年12月31日
Poisson流形上的修正Hamilton方法
国家自然科学基金
0+阅读 · 2014年12月31日
Ethereum Proof-of-Stake Consensus Layer: Participation and Decentralization
Arxiv
0+阅读 · 2023年9月22日
Search-in-the-Chain: Towards Accurate, Credible and Traceable Large Language Models for Knowledge-intensive Tasks
Arxiv
0+阅读 · 2023年9月22日
A Machine Learning-oriented Survey on Tiny Machine Learning
Arxiv
0+阅读 · 2023年9月21日
Unlocking massively parallel spectral proper orthogonal decompositions in the PySPOD package
Arxiv
0+阅读 · 2023年9月21日
Distribution and volume based scoring for Isolation Forests
Distribution and volume based scoring for Isolation Forests
Arxiv
0+阅读 · 2023年9月20日
Space and move-optimal Arbitrary Pattern Formation on infinite rectangular grid by Oblivious Robot Swarm
Arxiv
0+阅读 · 2023年9月20日
Depth Completion with Multiple Balanced Bases and Confidence for Dense Monocular SLAM
Arxiv
0+阅读 · 2023年9月20日
Learning on Graphs with Out-of-Distribution Nodes
Arxiv
10+阅读 · 2023年8月13日
PROP: Pre-training with Representative Words Prediction for Ad-hoc Retrieval
Arxiv
11+阅读 · 2020年10月20日
A Unified Knowledge Representation and Context-aware Recommender System in Internet of Things
Arxiv
10+阅读 · 2018年5月10日
VIP会员
文章信息
前往arXiv
下载PDF
相关主题
Minimax
SimPLe
散度
统计理论
相关VIP内容
Linux导论，Introduction to Linux，96页ppt
Linux导论，Introduction to Linux，96页ppt
专知会员服务
77+阅读 · 2020年7月26日
【跨语言BERT模型大集合】Transfer learning is increasingly going multilingual with language-specific BERT models
专知会员服务
53+阅读 · 2020年1月30日
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
FlowQA: Grasping Flow in History for Conversational Machine Comprehension
专知会员服务
28+阅读 · 2019年10月18日
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
专知会员服务
47+阅读 · 2019年10月17日
Connections between Support Vector Machines, Wasserstein distance and gradient-penalty GANs
Connections between Support Vector Machines, Wasserstein distance and gradient-penalty GANs
专知会员服务
34+阅读 · 2019年10月17日
Stabilizing Transformers for Reinforcement Learning
Stabilizing Transformers for Reinforcement Learning
专知会员服务
58+阅读 · 2019年10月17日
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
Deep Learning Based Detection and Correction of Cardiac MR Motion Artefacts During Reconstruction for High-Quality Segmentation
专知会员服务
56+阅读 · 2019年10月17日
《DeepGCNs: Making GCNs Go as Deep as CNNs》
《DeepGCNs: Making GCNs Go as Deep as CNNs》
专知会员服务
30+阅读 · 2019年10月17日
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
Keras François Chollet 《Deep Learning with Python 》, 386页pdf
专知会员服务
151+阅读 · 2019年10月12日
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
【SIGGRAPH2019】TensorFlow 2.0深度学习计算机图形学应用
专知会员服务
39+阅读 · 2019年10月9日
热门VIP内容
相关资讯
Hierarchically Structured Meta-learning
Hierarchically Structured Meta-learning
CreateAMind
26+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
Transferring Knowledge across Learning Processes
CreateAMind
27+阅读 · 2019年5月18日
Unsupervised Learning via Meta-Learning
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
A Technical Overview of AI & ML in 2018 & Trends for 2019
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
16+阅读 · 2018年12月24日
disentangled-representation-papers
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
STRCF for Visual Object Tracking
STRCF for Visual Object Tracking
统计学习与视觉计算组
14+阅读 · 2018年5月29日
Focal Loss for Dense Object Detection
Focal Loss for Dense Object Detection
统计学习与视觉计算组
11+阅读 · 2018年3月15日
可解释的CNN
可解释的CNN
CreateAMind
17+阅读 · 2017年10月5日
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
IJCAI | Cascade Dynamics Modeling with Attention-based RNN
KingsGarden
13+阅读 · 2017年7月16日
From Softmax to Sparsemax-ICML16（1）
From Softmax to Sparsemax-ICML16（1）
KingsGarden
72+阅读 · 2016年11月26日
相关论文
Ethereum Proof-of-Stake Consensus Layer: Participation and Decentralization
Arxiv
0+阅读 · 2023年9月22日
Search-in-the-Chain: Towards Accurate, Credible and Traceable Large Language Models for Knowledge-intensive Tasks
Arxiv
0+阅读 · 2023年9月22日
A Machine Learning-oriented Survey on Tiny Machine Learning
Arxiv
0+阅读 · 2023年9月21日
Unlocking massively parallel spectral proper orthogonal decompositions in the PySPOD package
Arxiv
0+阅读 · 2023年9月21日
Distribution and volume based scoring for Isolation Forests
Distribution and volume based scoring for Isolation Forests
Arxiv
0+阅读 · 2023年9月20日
Space and move-optimal Arbitrary Pattern Formation on infinite rectangular grid by Oblivious Robot Swarm
Arxiv
0+阅读 · 2023年9月20日
Depth Completion with Multiple Balanced Bases and Confidence for Dense Monocular SLAM
Arxiv
0+阅读 · 2023年9月20日
Learning on Graphs with Out-of-Distribution Nodes
Arxiv
10+阅读 · 2023年8月13日
PROP: Pre-training with Representative Words Prediction for Ad-hoc Retrieval
Arxiv
11+阅读 · 2020年10月20日
A Unified Knowledge Representation and Context-aware Recommender System in Internet of Things
Arxiv
10+阅读 · 2018年5月10日
相关基金
Hamilton-Jacibi方程的弱KAM理论
国家自然科学基金
1+阅读 · 2017年12月31日
城市“建成环境——空间行为”的多尺度影响关系与机理研究
国家自然科学基金
10+阅读 · 2017年12月31日
Musielak-Orlicz-Sobolev 空间中的迹嵌入及其应用
国家自然科学基金
1+阅读 · 2015年12月31日
DMB信号水汽探测方法若干问题研究
国家自然科学基金
1+阅读 · 2015年12月31日
Weyl半金属TaAs/NbAs在极端条件下的输运性质研究
国家自然科学基金
0+阅读 · 2015年12月31日
Schr？dinger-Poisson方程守恒DDG方法研究
国家自然科学基金
1+阅读 · 2015年12月31日
基于决策模型和预备电位的运动想象BCI研究
国家自然科学基金
2+阅读 · 2015年12月31日
哈密尔顿系统及多体问题的周期解
国家自然科学基金
0+阅读 · 2014年12月31日
动态Gr？bner 基与GVW算法
国家自然科学基金
0+阅读 · 2014年12月31日
Poisson流形上的修正Hamilton方法
国家自然科学基金
0+阅读 · 2014年12月31日
Top
微信扫码咨询专知VIP会员
Top