标题 | 浅谈人工神经网络的学习算法 |
范文 | 张友海 摘要:随着人工智能的兴起和广泛应用,人工神经网络人工神经网络,因此成为热门的研究方向,它的应用非常广泛,经济、生物、医学等各个领域都不乏神经网络的参与和应用。我们这里主要认识下其中比较重要的四种神经网络的学习算法。 关键词:人工智能;神经网络;学习算法 中图分类号:TP393 文献标识码:A 文章编号:1009-3044(2018)19-0218-01 Abstract: with the rise of artificial intelligence and the wide application of artificial neural network of artificial neural network, thus become a hot research direction, it has a very wide range of application, economy, biology, medicine and other fields have the participation of neural network and the application. Here we mainly recognize the four important neural network learning algorithms. Key words: artificial intelligence; neural network; learning algorithm 人工神经网络(Artificial Neural Network,ANN)简称神经网络(NN),是在现代生物学研究人脑组织所取得成果的基础上提出来的。人工神经网络是大脑生物结构的数学建模,有大量功能简单而具有自适应能力的信息处理单元即人工神经元按照大规模并行方式,通过拓扑结构连接而成。对于神经网络的研究成果,人们发现人工神经网络具有人脑的基本特征:学习、记忆、概括、归纳等。从而解决了人工智能研究中的某些局限性,为人工智能的研究开辟了崭新的途径。 神经网络是一种数学特模型,大量的节点(或神经元)以某种特定的拓扑结构相连。每个神经元的传递函数是特定的,神经元之间的每一个连接都代表了一个通过该连接信号的加权值,称为权重(weight),神经网络以这种方式模拟人的记忆。网络的输出依赖于网络结构、网络连接方式、权重和传递函数。而网络本身通常是指定算法或函数的值的逼近,或逻辑策略的表达。 人工神经网络模型可以有多种方式,它取决于网络的拓扑结构、神经元传递函数、学习算法和系统特点。一般可根据以下方式进行分类: 1) 按结构方式分类:前馈网络和反馈网络,如BP前馈网络和反馈Hopfield网络; 2) 按状态方式分类:离散型和连续性,如Hopfield离散型网络和Hopfield连续性网络; 3) 按学习方式分类:有监督学习网络和无监督学习网络,如BP、RBF等有学习监督网络和Kohonet无监督学习网络。 下面,我们来看看Kohonet、RBF、Hopfield、和BP这四种神经网络的学习算法。 1) Kohonet的学习算法 1972年,芬兰的KohonenT.教授,提出了自组织神经网络SOM(Self-Organizing feature map), 也称Kohonet网络,SOM是一类“无监督学习”模型,一般的用法是将高维的input数据在低维的空间表示[1],因此SOM天然是一种降维方法。除了降维,SOM还可以用于数据可视化,以及聚类等应用中。SOM网络共有两层即输入层和竞争层。 输入层一般是一个一维阵列,通过权向量将外界信息汇集到竞争层各神经元。 竞争层,其神经元的排列最典型的结构是二维形式。通过计算竞争层的权值向量和输入向量的距离,求取最小距离的神经元。通过不断修改权值及输出神经元,直至小于某个特定值,计算输出。 2) RBF的学习算法 径向基函数(RBF,Radial Basis Function)神经网络,是一种对局部逼近的神经网络。是由J.Moody 和C.Darken于20世纪80年代末提出的一种神经网络,RBF结构上并不复杂,只有两层:隐层和输出层。RBF网络的输入层实现从x到R(x)的非线性映射,输出层实现从R(x)到y(x)的线性映射(常用的径向函数R(x)是高斯函数),即将数据转化到高维空间,使其在高维空间线性可分。在满足均方根误差小于某个特定值时,计算输出。 3) Hopfield的学习算法 J. Hopfield在1982年,提出了一个可以用作联想记忆的互连网络,称为Hopfield网络模型,也称为Hopfield模型。Hopfield是典型的反馈式网络模型,它由相同的神经元构成的单层,并且具有学习功能的自联想网络,可以完成制约优化和联想记忆等功能。Hopfield神经网络模型是一个循环神经网络,从输出到输入都有反馈连接。 反馈神经网络因其输出反馈到输入端;因此,Hopfield网络将在输入的激励下产生持续的状态变化。一旦有输入后,就可以获得Hopfield的输出,输出又反馈到输入以产生新的输出,反馈过程将一直进行。如果Hopfield网络是一个收敛的稳定网络,反馈和迭代的变化就会越来越小,一旦达到稳定的平衡状态,即Hopfield网络输出一个稳定的恒定值。对于Hopfield网络来讲,关键是在稳定条件下确定其权重系数。 4) BP的学习算法 1985年,Rumelhart提出的Error back propagaiton 算法,简称BP算法。系统的解决了多层网络中隐含层连接权的学习问题。是一种按误差逆传播算法训练的前馈网络。是目前使用較多,较简单的神经网络算法。BP网络可以学习和存储大量的输入输出模式的映射关系,而无须提前揭示描述映射关系的数学模型。它的学习算法可以概括的描述如下:首先,对原始数据的输入、输出样本进行规范化处理,规则是使用梯度下降法,通过反向给全脂及阈值赋予(-1,1)区间的随机值;其次,进入循环阶段:计算隐含层与输出层各节点的输出值,与网络希望的输出值的偏差,来修正各层的连接权值及阈值,循环执行,直至网络的全局误差小与指定的值,则结束循环;最后,计算输出层。 可见,神经网络事实上是一种运算模型,它通过建立一些信息模型,以不同的链接方式形成不同的输出算法,通过大量的节点之间的连接来代表不同的功能值,它形同于每个网络中的记忆模式,依靠网络的连接来输出函数,达到指定的功能,是一种非常严密的逻辑表达。神经网络一般适合于解决事物的分类问题,有的还具有预测能力。 参考文献: [1] 许国根,贾瑛,等.实战大数据——MATLAB数据挖掘详解与实践[M].北京:清华大学出版社,2017. [2] 飞思科技产品研发中心. 神经网络理论与MATLAB7实现[M].北京:电子工业出版社,2005. [3] 朱大奇,史慧.人工神经网络原理及应用[M].安徽:科技出版社,2006. |
随便看 |
|
科学优质学术资源、百科知识分享平台,免费提供知识科普、生活经验分享、中外学术论文、各类范文、学术文献、教学资料、学术期刊、会议、报纸、杂志、工具书等各类资源检索、在线阅读和软件app下载服务。