表示学习是通过利用训练数据来学习得到向量表示,这可以克服人工方法的局限性。 表示学习通常可分为两大类,无监督和有监督表示学习。大多数无监督表示学习方法利用自动编码器(如去噪自动编码器和稀疏自动编码器等)中的隐变量作为表示。 目前出现的变分自动编码器能够更好的容忍噪声和异常值。 然而,推断给定数据的潜在结构几乎是不可能的。 目前有一些近似推断的策略。 此外,一些无监督表示学习方法旨在近似某种特定的相似性度量。提出了一种无监督的相似性保持表示学习框架,该框架使用矩阵分解来保持成对的DTW相似性。 通过学习保持DTW的shaplets,即在转换后的空间中的欧式距离近似原始数据的真实DTW距离。有监督表示学习方法可以利用数据的标签信息,更好地捕获数据的语义结构。 孪生网络和三元组网络是目前两种比较流行的模型,它们的目标是最大化类别之间的距离并最小化了类别内部的距离。
DeepMind开源最牛无监督学习BigBiGAN预训练模型
新智元
10+阅读 · 2019年10月10日
【SCIR Lab】事件表示学习简述
深度学习自然语言处理
1+阅读 · 2020年7月15日
【论文解读】知识图谱最新研究综述
深度学习自然语言处理
3+阅读 · 2020年5月7日
刘知远 | 语义表示学习
开放知识图谱
16+阅读 · 2018年8月9日
图表示学习起源: 从Word2vec到DeepWalk
图与推荐
0+阅读 · 2020年3月24日
参考链接
微信扫码咨询专知VIP会员