神经网络是一种受生物启发的数据处理机制,它使计算机能够在技术上类似于大脑的学习,甚至在传授足够多的问题实例的解决方案时进行归纳。手稿“A Brief Introduction to Neural Networks”被分成几个部分,这些部分又被分成章节。下面对每章的内容进行总结。 第一部分:从生物学到形式化 -- 神经模型的动机、哲学、历史和实现 引言、动机和历史 如何教计算机?你可以编写一个严格的程序 - 或者你可以让计算机自己学习。生物没有程序员为它们编写程序来开发技能,只需执行。它们通过自己学习 - 没有初始经验和外部知识 - 因此可以比任何现今的计算机更好地解决问题。什么样的品质需要让像计算机这样的设备实现这种行为?这种认知能力能从生物学中获得吗?解决问题的广泛方法的历史,发展,衰退和复兴。 生物神经网络 生物系统如何解决问题?神经元系统是如何工作的?我们如何理解其功能?不同数量的神经元能做什么?神经系统中哪里在处理信息?关于神经信息处理的简单元素的复杂性的简短生物学概述,后面是一些关于如何简化它们以便在技术上适应它们的想法。 人工神经网络的组成部分 对实现生物神经网络技术适应的组件的正式定义和通俗解释。如何将这些组件组合成神经网络的初步描述。 如何训练神经网络?如何教授机器的方法和思考。应该纠正神经网络吗?他们应该只被鼓励吗?或者他们甚至应该在没有任何帮助的情况下学习?关于我们在学习过程中想要改变什么以及我们将如何改变它的思考,关于错误的测量以及何时学到足够的东西。 第二部分:有监督学习网络范式 感知机 神经网络中的经典之一。当我们谈论神经网络时,在大多数情况下,我们指的是感知机或其变种。感知机是没有循环并且具有固定输入和输出层的多层网络。描述感知机,其限制以及应避免这些限制的扩展。学习过程的推导和关于它们问题的讨论。 径向基函数 RBF网络通过拉伸和压缩高斯函数,然后空间上移动它们来近似函数。描述它们的功能和学习过程。与多层感知机进行比较。 递归多层感知机 关于具有内部状态的网络的一些想法。使用这种网络的学习方法,以及它们动态的概述。 霍普菲尔德网络 在磁场中,每个粒子对任何其他粒子施加力,使所有粒子以能量最为有利的方式调整其运动。这种自然机制被复制用来调整噪声输入,以使其匹配其真实模型。 学习矢量量化 学习矢量量化是一种学习过程,目的是通过使用少量代表性矢量尽可能地复制划分为预定义类的矢量训练集。如果这样做成功,那么迄今为止未知的矢量可以轻松分配给这些类别中的一个。 第三部分:无监督学习网络范式 自组织特征映射 一种无监督学习神经网络的范式,通过其固定的拓扑结构映射输入空间,从而独立寻找相似性。功能,学习过程,变化和神经气体。 自适应共振理论 原始形式的ART网络应对二进制输入向量进行分类,即将它们分配给1-out-of-n输出。同时,到目前为止未分类的模式应被识别并分配给一个新类别。 第四部分:专题研究,附录和目录 簇分析及区域和在线学习域 在格林姆的词典中,已经灭绝的德语词“Kluster”被描述为“was dicht und dick zusammensitzet(某物的浓密群体)”。在静态簇分析中,探索点云内部群组的形成。介绍一些程序,比较它们的优点和缺点。讨论一种基于神经网络的自适应聚类方法。一个区域和在线可学习的字段从点云(可能包含大量点)中建模,用一组相对较少的神经元代表点云。 用于预测的神经网络 讨论神经网络的一个应用:预见时间序列的未来。 强化学习 如果没有训练示例,但仍然可以评估我们学习解决问题的效果如何呢?让我们看一下位于监督学习和无监督学习之间的学习范式。

成为VIP会员查看完整内容
78

相关内容

人工神经网络(Artificial Neural Network,即ANN ),是20世纪80 年代以来人工智能领域兴起的研究热点。它从信息处理角度对人脑神经元网络进行抽象, 建立某种简单模型,按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型,由大量的节点(或称神经元)之间相互联接构成。每个节点代表一种特定的输出函数,称为激励函数(activation function)。每两个节点间的连接都代表一个对于通过该连接信号的加权值,称之为权重,这相当于人工神经网络的记忆。网络的输出则依网络的连接方式,权重值和激励函数的不同而不同。而网络自身通常都是对自然界某种算法或者函数的逼近,也可能是对一种逻辑策略的表达。 最近十多年来,人工神经网络的研究工作不断深入,已经取得了很大的进展,其在模式识别、智能机器人、自动控制、预测估计、生物、医学、经济等领域已成功地解决了许多现代计算机难以解决的实际问题,表现出了良好的智能特性。
【干货书】线性代数数据科学,257页pdf
专知会员服务
69+阅读 · 2023年8月10日
【干货书】计算机科学基础数学:可视化方法,519页pdf
专知会员服务
86+阅读 · 2023年2月9日
【干货书】算法,Algorithms,314页pdf
专知会员服务
83+阅读 · 2022年8月20日
【干货书】信息论与编码,517页pdf
专知会员服务
88+阅读 · 2022年7月20日
【干货书】《日常算法》,154页pdf
专知会员服务
56+阅读 · 2022年1月22日
【干货书】算法设计艺术,319页pdf
专知会员服务
120+阅读 · 2021年10月24日
【干货书】掌握Python算法,337页pdf
专知会员服务
80+阅读 · 2021年3月20日
专知会员服务
28+阅读 · 2021年3月7日
专知会员服务
48+阅读 · 2020年12月2日
【干货书】Python高级数据科学分析,424页pdf
专知会员服务
117+阅读 · 2020年8月7日
【2023新书】机器学习集成方法,354页pdf
专知
40+阅读 · 2023年4月11日
【干货书】算法图论,322页pdf
专知
5+阅读 · 2022年12月1日
【干货书】高维统计概论,361页pdf
专知
7+阅读 · 2022年10月29日
【硬核书】树与网络上的概率,716页pdf
专知
24+阅读 · 2021年12月8日
【干货书】贝叶斯推断随机过程,449页pdf
专知
29+阅读 · 2020年8月27日
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
Arxiv
0+阅读 · 2023年8月15日
A Survey of Large Language Models
Arxiv
458+阅读 · 2023年3月31日
Optimization for deep learning: theory and algorithms
Arxiv
106+阅读 · 2019年12月19日
VIP会员
相关VIP内容
【干货书】线性代数数据科学,257页pdf
专知会员服务
69+阅读 · 2023年8月10日
【干货书】计算机科学基础数学:可视化方法,519页pdf
专知会员服务
86+阅读 · 2023年2月9日
【干货书】算法,Algorithms,314页pdf
专知会员服务
83+阅读 · 2022年8月20日
【干货书】信息论与编码,517页pdf
专知会员服务
88+阅读 · 2022年7月20日
【干货书】《日常算法》,154页pdf
专知会员服务
56+阅读 · 2022年1月22日
【干货书】算法设计艺术,319页pdf
专知会员服务
120+阅读 · 2021年10月24日
【干货书】掌握Python算法,337页pdf
专知会员服务
80+阅读 · 2021年3月20日
专知会员服务
28+阅读 · 2021年3月7日
专知会员服务
48+阅读 · 2020年12月2日
【干货书】Python高级数据科学分析,424页pdf
专知会员服务
117+阅读 · 2020年8月7日
相关基金
国家自然科学基金
3+阅读 · 2015年12月31日
国家自然科学基金
9+阅读 · 2015年12月31日
国家自然科学基金
1+阅读 · 2015年12月31日
国家自然科学基金
4+阅读 · 2015年12月31日
国家自然科学基金
2+阅读 · 2015年12月31日
国家自然科学基金
5+阅读 · 2015年12月31日
国家自然科学基金
0+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
国家自然科学基金
5+阅读 · 2014年12月31日
国家自然科学基金
1+阅读 · 2014年12月31日
微信扫码咨询专知VIP会员