摘要: 深度信念网络(Deep belief network, DBN)是一种基于深度学习的生成模型, 克服了传统梯度类学习算法在处理深层结构所面临的梯度消失问题, 近几年来已成为深度学习领域的研究热点之一.基于分阶段学习的思想, 人们设计了不同结构和学习算法的深度信念网络模型.本文在回顾总结深度信念网络的研究现状基础上, 给出了其发展趋势.首先, 给出深度信念网络的基本模型结构以及其标准的学习框架, 并分析了深度信念网络与其他深度结构的关系与区别; 其次, 回顾总结深度信念网络研究现状, 基于标准模型分析不同深度信念网络结构的性能; 第三, 给出深度信念网络的不同无监督预训练和有监督调优算法, 并分析其性能; 最后, 给出深度信念网络今后的发展趋势以及未来值得研究的方向.

http://www.aas.net.cn/cn/article/doi/10.16383/j.aas.c190102

成为VIP会员查看完整内容
32

相关内容

深度信念网络是一个概率生成模型,与传统的判别模型的神经网络相对,生成模型是建立一个观察数据和标签之间的联合分布,对P(Observation|Label)和 P(Label|Observation)都做了评估,而判别模型仅仅而已评估了后者,也就是P(Label|Observation)。
专知会员服务
34+阅读 · 2021年3月21日
跨媒体分析与推理技术研究综述
专知会员服务
69+阅读 · 2021年3月11日
专知会员服务
58+阅读 · 2021年3月9日
专知会员服务
30+阅读 · 2021年3月7日
专知会员服务
60+阅读 · 2021年2月22日
专知会员服务
125+阅读 · 2021年2月17日
深度强化学习在智能制造中的应用展望综述
专知会员服务
93+阅读 · 2021年1月28日
专知会员服务
131+阅读 · 2021年1月13日
生成对抗网络GAN在各领域应用研究进展(中文版),37页pdf
专知会员服务
147+阅读 · 2020年12月30日
专知会员服务
57+阅读 · 2020年12月6日
联邦学习最新研究趋势!
AI科技评论
52+阅读 · 2020年3月12日
NLP领域预训练模型的现状及分析
AI科技评论
5+阅读 · 2019年11月1日
人工智能的现状与未来(附PPT)
人工智能学家
73+阅读 · 2019年3月27日
视频+PPT▍AutoML技术现状与未来展望
36大数据
6+阅读 · 2019年2月21日
人机融合智能的现状与展望
走向智能论坛
9+阅读 · 2019年2月17日
生成对抗网络的研究进展与趋势
中国计算机学会
35+阅读 · 2018年11月14日
【机器学习】机器学习:未来十年研究热点
产业智能官
16+阅读 · 2018年11月4日
展望:模型驱动的深度学习
人工智能学家
12+阅读 · 2018年1月23日
【研究分享】基于踪片Tracklet关联的视觉目标跟踪:现状与展望
中国科学院自动化研究所
9+阅读 · 2018年1月16日
【回顾】迁移学习的发展和现状
AI研习社
8+阅读 · 2017年11月17日
Arxiv
7+阅读 · 2020年12月10日
Arxiv
99+阅读 · 2020年3月4日
AutoML: A Survey of the State-of-the-Art
Arxiv
67+阅读 · 2019年8月14日
Arxiv
17+阅读 · 2019年4月5日
Arxiv
21+阅读 · 2018年8月30日
VIP会员
相关VIP内容
专知会员服务
34+阅读 · 2021年3月21日
跨媒体分析与推理技术研究综述
专知会员服务
69+阅读 · 2021年3月11日
专知会员服务
58+阅读 · 2021年3月9日
专知会员服务
30+阅读 · 2021年3月7日
专知会员服务
60+阅读 · 2021年2月22日
专知会员服务
125+阅读 · 2021年2月17日
深度强化学习在智能制造中的应用展望综述
专知会员服务
93+阅读 · 2021年1月28日
专知会员服务
131+阅读 · 2021年1月13日
生成对抗网络GAN在各领域应用研究进展(中文版),37页pdf
专知会员服务
147+阅读 · 2020年12月30日
专知会员服务
57+阅读 · 2020年12月6日
相关资讯
联邦学习最新研究趋势!
AI科技评论
52+阅读 · 2020年3月12日
NLP领域预训练模型的现状及分析
AI科技评论
5+阅读 · 2019年11月1日
人工智能的现状与未来(附PPT)
人工智能学家
73+阅读 · 2019年3月27日
视频+PPT▍AutoML技术现状与未来展望
36大数据
6+阅读 · 2019年2月21日
人机融合智能的现状与展望
走向智能论坛
9+阅读 · 2019年2月17日
生成对抗网络的研究进展与趋势
中国计算机学会
35+阅读 · 2018年11月14日
【机器学习】机器学习:未来十年研究热点
产业智能官
16+阅读 · 2018年11月4日
展望:模型驱动的深度学习
人工智能学家
12+阅读 · 2018年1月23日
【研究分享】基于踪片Tracklet关联的视觉目标跟踪:现状与展望
中国科学院自动化研究所
9+阅读 · 2018年1月16日
【回顾】迁移学习的发展和现状
AI研习社
8+阅读 · 2017年11月17日
相关论文
Arxiv
7+阅读 · 2020年12月10日
Arxiv
99+阅读 · 2020年3月4日
AutoML: A Survey of the State-of-the-Art
Arxiv
67+阅读 · 2019年8月14日
Arxiv
17+阅读 · 2019年4月5日
Arxiv
21+阅读 · 2018年8月30日
微信扫码咨询专知VIP会员