神经网络是一种受生物启发的数据处理机制,它使计算机能够在技术上类似于大脑的学习,甚至在传授足够多的问题实例的解决方案时进行归纳。手稿“A Brief Introduction to Neural Networks”被分成几个部分,这些部分又被分成章节。下面对每章的内容进行总结。 第一部分:从生物学到形式化 -- 神经模型的动机、哲学、历史和实现 引言、动机和历史 如何教计算机?你可以编写一个严格的程序 - 或者你可以让计算机自己学习。生物没有程序员为它们编写程序来开发技能,只需执行。它们通过自己学习 - 没有初始经验和外部知识 - 因此可以比任何现今的计算机更好地解决问题。什么样的品质需要让像计算机这样的设备实现这种行为?这种认知能力能从生物学中获得吗?解决问题的广泛方法的历史,发展,衰退和复兴。 生物神经网络 生物系统如何解决问题?神经元系统是如何工作的?我们如何理解其功能?不同数量的神经元能做什么?神经系统中哪里在处理信息?关于神经信息处理的简单元素的复杂性的简短生物学概述,后面是一些关于如何简化它们以便在技术上适应它们的想法。 人工神经网络的组成部分 对实现生物神经网络技术适应的组件的正式定义和通俗解释。如何将这些组件组合成神经网络的初步描述。 如何训练神经网络?如何教授机器的方法和思考。应该纠正神经网络吗?他们应该只被鼓励吗?或者他们甚至应该在没有任何帮助的情况下学习?关于我们在学习过程中想要改变什么以及我们将如何改变它的思考,关于错误的测量以及何时学到足够的东西。 第二部分:有监督学习网络范式 感知机 神经网络中的经典之一。当我们谈论神经网络时,在大多数情况下,我们指的是感知机或其变种。感知机是没有循环并且具有固定输入和输出层的多层网络。描述感知机,其限制以及应避免这些限制的扩展。学习过程的推导和关于它们问题的讨论。 径向基函数 RBF网络通过拉伸和压缩高斯函数,然后空间上移动它们来近似函数。描述它们的功能和学习过程。与多层感知机进行比较。 递归多层感知机 关于具有内部状态的网络的一些想法。使用这种网络的学习方法,以及它们动态的概述。 霍普菲尔德网络 在磁场中,每个粒子对任何其他粒子施加力,使所有粒子以能量最为有利的方式调整其运动。这种自然机制被复制用来调整噪声输入,以使其匹配其真实模型。 学习矢量量化 学习矢量量化是一种学习过程,目的是通过使用少量代表性矢量尽可能地复制划分为预定义类的矢量训练集。如果这样做成功,那么迄今为止未知的矢量可以轻松分配给这些类别中的一个。 第三部分:无监督学习网络范式 自组织特征映射 一种无监督学习神经网络的范式,通过其固定的拓扑结构映射输入空间,从而独立寻找相似性。功能,学习过程,变化和神经气体。 自适应共振理论 原始形式的ART网络应对二进制输入向量进行分类,即将它们分配给1-out-of-n输出。同时,到目前为止未分类的模式应被识别并分配给一个新类别。 第四部分:专题研究,附录和目录 簇分析及区域和在线学习域 在格林姆的词典中,已经灭绝的德语词“Kluster”被描述为“was dicht und dick zusammensitzet(某物的浓密群体)”。在静态簇分析中,探索点云内部群组的形成。介绍一些程序,比较它们的优点和缺点。讨论一种基于神经网络的自适应聚类方法。一个区域和在线可学习的字段从点云(可能包含大量点)中建模,用一组相对较少的神经元代表点云。 用于预测的神经网络 讨论神经网络的一个应用:预见时间序列的未来。 强化学习 如果没有训练示例,但仍然可以评估我们学习解决问题的效果如何呢?让我们看一下位于监督学习和无监督学习之间的学习范式。