【NeurIPS2018】无监督深度学习全景教程（附193页PDF)

【导读】2018年12月2日到12月8日，第三十二届NeurIPS （Conference on Neural Information Processing Systems）年度会议在蒙特利尔会议中心盛大召开。该会议汇集了机器学习和计算神经领域的顶级专家学者，为广大研究者带来了大量高质量的研究成果。本文特为大家整理了来自DeepMind与Facebook研究人员联名所作的学术报告-无监督深度学习，希望大家喜欢。

介绍：

无监督学习在深度神经网络中的地位正变得越来越重要，其既可以使用大量未标记数据，也可以学习到能够快速推广到新任务和场景的表示。其主要的挑战在于如何确定学习的目标是什么，以及如何去定义这个目标。本教程将介绍一种简单粗暴的“预测所有内容”的方法，这种方法基于概率模型实现，可以通过最小描述长度原理（Minimum Mescription Length principle）来尽可能的压缩数据。同时，我们还将对该领域的一些其他方法进行综述，包括非标准的基于能量（energy-based）的模型，自监督的算法和纯粹的生成模型，如GAN等。如果时间允许的化，我们会将讨论扩展到强化学习领域，在其中的无监督学习驱动力被类比为内在动机，诸如好奇心（curiosity）、授权（empowerment）以及压缩过程之类的概念都将被作为学习的驱动因素。

作者介绍：

Alex Graves：Alex Graves在爱丁堡大学获得了理论物理学士学位，在IDSIA获得人工智能博士学位人工智能博士学位，随后在慕尼黑技术大学，以及多伦多大学的Geoff Hinton处获得博士后学位。现在供职于DeepMind，其贡献主要包括用于序列标记的时间分类算法，随机梯度变分推断、神经图灵机/可微分神经计算机结构。

Marc'Aurelio Ranzato：Marc'Aurelio Ranzato是纽约市Facebook AI研究实验室的研究科学家主管。他的研究兴趣在于无监督学习、持续学习和迁移学习，成果应用于计算机视觉、自然语言处理和语音识别领域。她在Yann LeCun的指导下获得了纽约大学计算机科学博士学位，并在多伦多大学Geoffrey Hinton处获得博后职位。于2011年加入Google Brain团队，2013年，加入Facebook并成为Facebook AI研究实验室的创始人员。

附PDF全文：

高质量延伸阅读

☞ OpenPV平台发布在线的ParallelEye视觉任务挑战赛

☞【学界】第1届“智能车辆中的平行视觉”研讨会成功举行

☞【学界】生成式对抗网络：从生成数据到创造智能

☞【学界】OpenPV：中科院研究人员建立开源的平行视觉研究平台

☞【学界】基于平行视觉的特定场景下行人检测

☞【学界】ParallelEye：面向交通视觉研究构建的大规模虚拟图像集

☞【CFP】Virtual Images for Visual Artificial Intelligence

☞【最详尽的GAN介绍】王飞跃等：生成式对抗网络 GAN 的研究进展与展望

☞【智能自动化学科前沿讲习班第1期】王飞跃教授：生成式对抗网络GAN的研究进展与展望

☞【智能自动化学科前沿讲习班第1期】王坤峰副研究员：GAN与平行视觉

☞【重磅】平行将成为一种常态：从SimGAN获得CVPR 2017最佳论文奖说起

☞【平行讲坛】平行图像：图像生成的一个新型理论框架

☞【学界】基于生成对抗网络的低秩图像生成方法

☞【学界】Ian Goodfellow等人提出对抗重编程，让神经网络执行其他任务

☞【学界】六种GAN评估指标的综合评估实验，迈向定量评估GAN的重要一步

☞【资源】T2T：利用StackGAN和ProGAN从文本生成人脸

☞【学界】 CVPR 2018最佳论文作者亲笔解读：研究视觉任务关联性的Taskonomy

☞【业界】英特尔OpenVINO™工具包为创新智能视觉提供更多可能

☞【学界】ECCV 2018: 对抗深度学习: 鱼 (模型准确性) 与熊掌 (模型鲁棒性) 能否兼得