当今时代的人工智能技术迅速发展,推动了社会的巨大进步。深度学习作为人工智能领域重要的一部分,具有非常广阔的应用前景,近年来,越来越多的专家学者开始研究深度学习领域相关技术,比较典型的两个方向就是自然语言处理和计算机视觉,其中计算机视觉的发展大力引领着深度学习领域的进步。介绍了卷积神经网络的经典模型和深度学习中新型神经网络模型——胶囊网络以及其动态路由算法,并对比了二者的优劣性。对胶囊网络的应用给予综述,以图像和文本两方面来阐述胶囊网络的应用领域和优势所在。最后进行概括总结,并展望了胶囊网络可能的改进方向。
深度学习是机器学习的一部分,随着大数据时代的 到来和 GPU 技术的进步,深度学习广泛应用于图像识 别、图像分类、图像分割、目标检测[1] 、身份认证[2] 、知识 图谱[3] 、自然语言处理、语音识别、文本分类[4] 等各个领 域。与传统的机器学习算法相比,深度学习的优越性在 于其卓越的准确性。从图像分类到自然语言处理,深层 神经网络正被应用于不同的领域。人们对人工神经网 络进行了研究,开发了不同类型的神经网络,如卷积神 经网络和循环神经网络,它们已经应用于不同的应用领 域。卷积神经网络的引入是神经网络重新流行的原因 之一。可是研究发现它存在一个根本性的问题,即无法考虑到底层目标特征之间的空间关系。由于在卷积神 经网络中,上一层神经元传递到下一层神经元中的是标 量,标量没有方向,无法表示出高层特征与低层特征之 间的位姿关系。另外,它的池化层会丢失大量有价值的 信息,因此卷积神经网络存在较大的局限性。2017年, Geoffrey Hinton 在神经网络架构中引入了一个新概 念——胶囊网络。
胶囊网络是近年来为克服卷积神经网络存在的缺 陷而引入的神经网络之一,它以向量的形式来表示部分 与整体之间的关系,不仅能够以特征响应的强度来表示 图像,还能够表征图像特征的方向、位置等信息。同时,胶囊网络采用囊间动态路由算法,取代传统卷积神经网 络中的最大池化法,避免了图像因池化导致精确位置信 息的丢失。因此,胶囊网络以其独特魅力迅速成为深度 学习领域的一项热门技术,众多科研人员纷纷致力于对 其进行深入研究。
http://cea.ceaj.org/CN/abstract/abstract39347.shtml
专知便捷查看
便捷下载,请关注专知公众号(点击上方蓝色专知关注)
后台回复“胶囊网络” 可以获取《胶囊神经网络研究现状与未来的浅析》专知下载链接索引