会员服务
变换 · Extensibility · 最大后验概率估计 · 后验分布 · 估计/估计量 ·
2020 年 11 月 12 日
Probabilistic Transformers
翻译：概率变换器
Javier R. Movellan
Javier R. Movellan

We show that Transformers are Maximum Posterior Probability estimators for Mixtures of Gaussian Models. This brings a probabilistic point of view to Transformers and suggests extensions to other probabilistic cases.


翻译：我们显示,变换器是高山模型混合体的最大外在概率估计器。 这给变换器带来一个概率观点, 并提示其他概率案例的扩展 。
0
下载
关闭预览

相关内容

最新《Transformers模型》教程，64页ppt
最新《Transformers模型》教程，64页ppt
专知会员服务
315+阅读 · 2020年11月26日
【干货书】机器学习速查手册，135页pdf
【干货书】机器学习速查手册，135页pdf
专知会员服务
127+阅读 · 2020年11月20日
Transformer模型-深度学习自然语言处理，17页ppt
Transformer模型-深度学习自然语言处理，17页ppt
专知会员服务
106+阅读 · 2020年8月30日
基于Transformer嵌入模型的个性化产品搜索，A Transformer-based Embedding Model for Personalized Product Search
基于Transformer嵌入模型的个性化产品搜索，A Transformer-based Embedding Model for Personalized Product Search
专知会员服务
31+阅读 · 2020年5月20日
Transformer文本分类代码
Transformer文本分类代码
专知会员服务
117+阅读 · 2020年2月3日
【论文】用于推理的概率逻辑神经网络（Probabilistic Logic Neural Networks for Reasoning）
【论文】用于推理的概率逻辑神经网络（Probabilistic Logic Neural Networks for Reasoning）
专知会员服务
104+阅读 · 2019年12月30日
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
专知会员服务
49+阅读 · 2019年10月17日
Stabilizing Transformers for Reinforcement Learning
Stabilizing Transformers for Reinforcement Learning
专知会员服务
60+阅读 · 2019年10月17日
ExBert — 可视化分析Transformer学到的表示
ExBert — 可视化分析Transformer学到的表示
专知会员服务
32+阅读 · 2019年10月16日
【IJCAI 2019 Tutorials】基于概率图模型的医疗决策分析（Medical decision analysis with probabilistic graphical models）
【IJCAI 2019 Tutorials】基于概率图模型的医疗决策分析（Medical decision analysis with probabilistic graphical models）
专知会员服务
46+阅读 · 2019年8月10日
BERT/注意力机制/Transformer/迁移学习NLP资源大列表：awesome-bert-nlp
BERT/注意力机制/Transformer/迁移学习NLP资源大列表：awesome-bert-nlp
AINLP
40+阅读 · 2019年6月9日
基于PyTorch/TorchText的自然语言处理库
基于PyTorch/TorchText的自然语言处理库
专知
28+阅读 · 2019年4月22日
2018机器学习开源资源盘点
2018机器学习开源资源盘点
专知
6+阅读 · 2019年2月2日
Unsupervised Learning via Meta-Learning
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
Hierarchical Disentangled Representations
Hierarchical Disentangled Representations
CreateAMind
4+阅读 · 2018年4月15日
计算机视觉近一年进展综述
计算机视觉近一年进展综述
机器学习研究会
9+阅读 · 2017年11月25日
【论文】变分推断（Variational inference)的总结
【论文】变分推断（Variational inference)的总结
机器学习研究会
39+阅读 · 2017年11月16日
【推荐】GAN架构入门综述(资源汇总)
【推荐】GAN架构入门综述(资源汇总)
机器学习研究会
10+阅读 · 2017年9月3日
Auto-Encoding GAN
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
强化学习族谱
强化学习族谱
CreateAMind
26+阅读 · 2017年8月2日
On Gaussian Approximation for M-Estimator
Arxiv
0+阅读 · 2021年1月2日
Probabilistic Logic Neural Networks for Reasoning
Arxiv
7+阅读 · 2019年6月20日
Pluralistic Image Completion
Pluralistic Image Completion
Arxiv
8+阅读 · 2019年3月11日
Star-Transformer
Star-Transformer
Arxiv
5+阅读 · 2019年2月28日
Music Transformer
Music Transformer
Arxiv
5+阅读 · 2018年12月12日
Learning Implicit Fields for Generative Shape Modeling
Learning Implicit Fields for Generative Shape Modeling
Arxiv
10+阅读 · 2018年12月6日
Probabilistic Embedding of Knowledge Graphs with Box Lattice Measures
Arxiv
6+阅读 · 2018年5月17日
Towards Training Probabilistic Topic Models on Neuromorphic Multi-chip Systems
Arxiv
3+阅读 · 2018年4月10日
Generative Adversarial Networks and Probabilistic Graph Models for Hyperspectral Image Classification
Arxiv
11+阅读 · 2018年2月10日
TensorLog: Deep Learning Meets Probabilistic DBs
Arxiv
6+阅读 · 2017年7月17日
VIP会员
文章信息
前往arXiv
下载PDF
相关主题
变换
Extensibility
最大后验概率估计
后验分布
估计/估计量
相关VIP内容
最新《Transformers模型》教程，64页ppt
最新《Transformers模型》教程，64页ppt
专知会员服务
315+阅读 · 2020年11月26日
【干货书】机器学习速查手册，135页pdf
【干货书】机器学习速查手册，135页pdf
专知会员服务
127+阅读 · 2020年11月20日
Transformer模型-深度学习自然语言处理，17页ppt
Transformer模型-深度学习自然语言处理，17页ppt
专知会员服务
106+阅读 · 2020年8月30日
基于Transformer嵌入模型的个性化产品搜索，A Transformer-based Embedding Model for Personalized Product Search
基于Transformer嵌入模型的个性化产品搜索，A Transformer-based Embedding Model for Personalized Product Search
专知会员服务
31+阅读 · 2020年5月20日
Transformer文本分类代码
Transformer文本分类代码
专知会员服务
117+阅读 · 2020年2月3日
【论文】用于推理的概率逻辑神经网络（Probabilistic Logic Neural Networks for Reasoning）
【论文】用于推理的概率逻辑神经网络（Probabilistic Logic Neural Networks for Reasoning）
专知会员服务
104+阅读 · 2019年12月30日
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
Auto-Sizing the Transformer Network: Improving Speed, Efficiency, and Performance for Low-Resource Machine Translation
专知会员服务
49+阅读 · 2019年10月17日
Stabilizing Transformers for Reinforcement Learning
Stabilizing Transformers for Reinforcement Learning
专知会员服务
60+阅读 · 2019年10月17日
ExBert — 可视化分析Transformer学到的表示
ExBert — 可视化分析Transformer学到的表示
专知会员服务
32+阅读 · 2019年10月16日
【IJCAI 2019 Tutorials】基于概率图模型的医疗决策分析（Medical decision analysis with probabilistic graphical models）
【IJCAI 2019 Tutorials】基于概率图模型的医疗决策分析（Medical decision analysis with probabilistic graphical models）
专知会员服务
46+阅读 · 2019年8月10日
热门VIP内容
相关资讯
BERT/注意力机制/Transformer/迁移学习NLP资源大列表：awesome-bert-nlp
BERT/注意力机制/Transformer/迁移学习NLP资源大列表：awesome-bert-nlp
AINLP
40+阅读 · 2019年6月9日
基于PyTorch/TorchText的自然语言处理库
基于PyTorch/TorchText的自然语言处理库
专知
28+阅读 · 2019年4月22日
2018机器学习开源资源盘点
2018机器学习开源资源盘点
专知
6+阅读 · 2019年2月2日
Unsupervised Learning via Meta-Learning
Unsupervised Learning via Meta-Learning
CreateAMind
42+阅读 · 2019年1月3日
Hierarchical Disentangled Representations
Hierarchical Disentangled Representations
CreateAMind
4+阅读 · 2018年4月15日
计算机视觉近一年进展综述
计算机视觉近一年进展综述
机器学习研究会
9+阅读 · 2017年11月25日
【论文】变分推断（Variational inference)的总结
【论文】变分推断（Variational inference)的总结
机器学习研究会
39+阅读 · 2017年11月16日
【推荐】GAN架构入门综述(资源汇总)
【推荐】GAN架构入门综述(资源汇总)
机器学习研究会
10+阅读 · 2017年9月3日
Auto-Encoding GAN
Auto-Encoding GAN
CreateAMind
7+阅读 · 2017年8月4日
强化学习族谱
强化学习族谱
CreateAMind
26+阅读 · 2017年8月2日
相关论文
On Gaussian Approximation for M-Estimator
Arxiv
0+阅读 · 2021年1月2日
Probabilistic Logic Neural Networks for Reasoning
Arxiv
7+阅读 · 2019年6月20日
Pluralistic Image Completion
Pluralistic Image Completion
Arxiv
8+阅读 · 2019年3月11日
Star-Transformer
Star-Transformer
Arxiv
5+阅读 · 2019年2月28日
Music Transformer
Music Transformer
Arxiv
5+阅读 · 2018年12月12日
Learning Implicit Fields for Generative Shape Modeling
Learning Implicit Fields for Generative Shape Modeling
Arxiv
10+阅读 · 2018年12月6日
Probabilistic Embedding of Knowledge Graphs with Box Lattice Measures
Arxiv
6+阅读 · 2018年5月17日
Towards Training Probabilistic Topic Models on Neuromorphic Multi-chip Systems
Arxiv
3+阅读 · 2018年4月10日
Generative Adversarial Networks and Probabilistic Graph Models for Hyperspectral Image Classification
Arxiv
11+阅读 · 2018年2月10日
TensorLog: Deep Learning Meets Probabilistic DBs
Arxiv
6+阅读 · 2017年7月17日
Top
微信扫码咨询专知VIP会员
Top