【牛津大学博士论文】基于深度学习和聚类的连续数据离散表示，195页pdf

连续数据和离散数据之间的差异是计算机科学、数学以及认知科学等相关领域的一个基本问题。历史上，大部分计算都是在离散领域进行的，但连接主义提供了一种使用连续向量表示数据的替代技术，这种替代技术在过去十年深度学习的崛起中愈发突出。本论文探索了将连续的高维数据（像深度学习那样成功地处理）转换为离散的紧凑表示（如传统计算所用）的技术。五个主要章节每一个都介绍了一个新的技术，这些技术都有助于实现这个目标，但也可以作为一个独立的研究项目来阅读。这些技术主要涉及深度学习和聚类，并且，与一般的表示学习一致，主要（但不完全）处于无监督的环境中。有些章节分别关注深度学习或聚类，以形成连续数据的离散表示。其他章节则探讨如何在一个单一的端到端学习系统中结合深度学习和聚类。这样的组合本身就涉及到连续和离散之间的交界，因为深度学习操作的是前者，而聚类操作的是后者。能够在连续和离散的世界之间搭建桥梁，也符合人工智能模拟人类智能的原始目标，因为人类认知的重要部分就是在连续和离散的世界之间的运动。我们的感官输入主要是连续的，但我们使用的自然语言和推理装置大都是离散的。有朝一日能够像人类一样思考和行动的机器也必须学会做同样的事。