【Yann LeCun-ICLR2020报告】自监督学习是未来，没有通用人工智能AGI这种事情！40页ppt

Lecun近年来一直大推自监督学习。在最新ICLR I2020会议上，Facebook人工智能总监、图灵奖得主Yann Lecun给了自监督学习的报告《The Future is Self-Supervised 》，40页ppt，介绍了深度学习面临的挑战，自监督学习，基于能量学习的模型，介绍最新自监督学习的进展与问题，是非常值得看的报告。

2020 年的 ICLR 会议原计划于4 月 26 日至 4 月 30 日在埃塞俄比亚首都亚的斯亚贝巴举行，这本是首次在非洲举办的顶级人工智能国际会议，但受到疫情影响，ICLR 2020 被迫取消线下会议改为线上虚拟会议。今年的 ICLR 论文接受情况如下：共计接收 679 片文章，其中：poster-paper 共 523 篇、Spotlight-paper（焦点论文）共 107 篇、演讲 Talk 共 48 篇，另有被拒论文（reject-paper）共计 1907 篇，接受率为 26.48%。

首先解释他的理解什么是深度学习，并简单介绍了下监督学习及强化学习。LeCun 表示利用监督学习方法确实可以做一些有效的工作，不过会要求大量标记后的样本及数据，当有足够的数据时，监督式学习表现出的效果会非常好。而另一方面的强化学习，虽然在游戏中和模拟中的效果很好，如果要应用至现实生活中还需要大量的试验否则后果会非常严重。并提出了他所认为的目前深度学习三大挑战：

当标签数据充足时，针对于感知的监督学习才会有不错的效果

当实验成本低廉的时候（如在模拟实验中）强化学习才可以有较好的效果

以及在当下整个社区都在推进的三个问题：尝试使用更少的标记样本或者更少的实验去训练，尝试学会推理并超越简单的感知计算，尝试规划复杂的动作序列。

而对于 LeCun 最倾向的自监督学习，他则表示自监督学习相当于在填补空白，就目前来说自监督学习在自然语言处理领域表现的非常不错，而在图像识别及图像理解方面表现的效果却是一般。

最后，LeCun 表示自监督学习（SSL）才是未来发展的趋势，它能在各种任务中学习到分层特征，以及现实生活中可使用的海量数据作为资源。但并不是尽善尽美，同时也面临处理预测中不确定性的挑战，比如之前的案例基于能量的模型。 没有通用人工智能 AGI