在深度学习中自组织神经网络就是无监督神经网络吗？

概括

科学家 Teuvo Kohonen 提出在 1980s 提出了自组织映射。自组织映射是一种非监督学习的人工神经网络，可以在训练样本的输入空间中学习到数据的低维表征。自组织映射用邻近函数来保持输入空间的拓扑性质。

学习机制

自组织映射的网络结构由数据低维表征的维度来表示，一般都为二维表征。即自组织映射中的神经元分布在一个二维平面（Rectangular grid of nodes）中，并且每一个神经元与输入数据相连接。神经元的权重可以通过均匀采样自两个最大的主成分特征向量范围。主要算法流程如下所示：

- 随机初始化映射中节点的连接权重

- 将输入数据 D(t) 输入到自组织映射

- 在映射中遍历每一个节点

- 基于欧式距离的计算方式，计算输入数据 D(t) 与神经元的权重向量 \omega_i(s) 之间的欧式距离，其中 i 为神经元的下标

- 找到欧式距离最小的神经元节点，设定为 best match unit (BMU)

- 修饰 邻近 BMU 神经元 v 的权重 \omega_v(s)

\omega_v(s+1) = \omega_v(s) + \theta(u,v,s) \cdot \alpha(x) \cdot (D(t)-\omega_v(s) )

其中  D(t) 是 BMU神经元节点的输入向量， \alpha(x) 是一个单调递减的学习系数， \theta(u,v,s) 为步长为 s 时 表示两个神经元之间距离的邻近函数。

- 增加 s 并重复第二步

其中临近函数取决于两个神经元之间的距离，一般BMU 邻近神经元的邻近函数值为1，其他值为0。但是高斯函数也是一种常见的形式。