重磅！Geoffrey Hinton提出capsule 概念，推翻反向传播！

作者：全球人工智能

概要：三十多年前，全球顶级深度学习专家 Geoffrey Hinton 参与完成了《Experiments on Learning by Back Propagation》论文，提出反向传播这一重大人工智能理论方法。

导读：三十多年前，全球顶级深度学习专家 Geoffrey Hinton 参与完成了《Experiments on Learning by Back Propagation》论文，提出反向传播这一重大人工智能理论方法。如今，他再次呼吁研究者们应该对反向传播保持怀疑态度，推倒重来，重新建立新的理论体系。

在本次大会上，其他AI科学家认为反向传播在人工智能的未来仍然具有关键作用。不过， Hinton 认为若要有很好的发展，必须创造新的理论体系。

 Hinton：「摈弃一切，从头再来」！

反向传播的核心机制：标签或「权重」用于在类脑神经层中展示图像或声音；权重可以逐层调整，直到该网络能够在最少错的情况下执行智能功能。Hinton 认为这样是为了让神经网络自行做到「无监督学习」，他说：「我猜想这意味着抛弃反向传播，这不是大脑工作的方式，很明显我们并不需要标注所有数据。」

李飞飞、Gary Marcus 等科学家为其点赞支持！ 

Hinton的「摈弃一切，从头再来」观点，在推特上引起了热烈反响，Pedro Domingos、李飞飞等多人纷纷转发。李飞飞评论道：「赞同 Hinton 关于没有工具是永恒的观点，甚至反向传播或者深度学习也不例外。因此，基础研究的继续异常重要。」Gary Marcus 自夸说：「深度学习并不完美，我们应该有新的开始。我二十年前就讲过这句话。」

Hinton 提出capsule 神经元新概念！

Hinton 和 Sara Sabour 和 Nicholas Frosst 等科学家共同发表：《Dynamic Routing Between Capsules》提出capsule概念。capsule 是一组神经元，其活动向量展示特定实体类型的实例化参数，如对象或对象部分。我们使用活动向量的长度表征实体存在的概率，纵向代表实例化参数。同一水平的活跃 capsule 通过变换矩阵对更高级别的 capsule 的实例化参数进行预测。当多个预测一致时，更高级别的 capsule 变的活跃。我们展示了判别训练的多层 capsule 系统在 MNIST 数据集上达到了顶尖的性能，比识别高度重叠的数字的卷积网络的性能优越很多。为了达到这些结果，我们使用迭代的路由协议机制：较低级别的 capsule 偏向于将输出发送至高级别的 capsule，有了来自低级别 capsule 的预测，高级别 capsule 的活动向量具备大标量积。