神经网络理论基础.ppt

《神经网络理论基础.ppt》由会员分享，可在线阅读，更多相关《神经网络理论基础.ppt（43页珍藏版）》请在第壹文秘上搜索。

1、第第1 1章章 模糊控制从人的经验出发，解模糊控制从人的经验出发，解决了智能控制中人类语言的描述和决了智能控制中人类语言的描述和推理问题，尤其是一些不确定性语推理问题，尤其是一些不确定性语言的描述和推理问题，从而在机器言的描述和推理问题，从而在机器模拟人脑的感知、推理等智能行为模拟人脑的感知、推理等智能行为方面迈出了重大的一步。方面迈出了重大的一步。 模糊控制在处理数值数据、自学习模糊控制在处理数值数据、自学习能力等方面还远没有达到人脑的境界。能力等方面还远没有达到人脑的境界。人工神经网络从另一个角度出发，即从人工神经网络从另一个角度出发，即从人恼的生理学和心理学着手，通过人工人恼的生理学和心

2、理学着手，通过人工模拟人脑的工作机理来实现机器的部分模拟人脑的工作机理来实现机器的部分智能行为。智能行为。 1.1 神经元具有如下功能：神经元具有如下功能： (1)兴奋与抑制：如果传入神经元的冲兴奋与抑制：如果传入神经元的冲动经整和后使细胞膜电位升高，超过动经整和后使细胞膜电位升高，超过动作电位的阈值时即为兴奋状态，产动作电位的阈值时即为兴奋状态，产生神经冲动，由轴突经神经末梢传出。生神经冲动，由轴突经神经末梢传出。如果传入神经元的冲动经整和后使细如果传入神经元的冲动经整和后使细胞膜电位降低，低于动作电位的阈值胞膜电位降低，低于动作电位的阈值时即为抑制状态，不产生神经冲动。时即为抑制状态，不产

3、生神经冲动。 (2)学习与遗忘：由于神经元结构的可塑学习与遗忘：由于神经元结构的可塑性，突触的传递作用可增强和减弱，因性，突触的传递作用可增强和减弱，因此神经元具有学习与遗忘的功能。此神经元具有学习与遗忘的功能。 决定神经网络模型性能三大要素为：决定神经网络模型性能三大要素为： (1)神经元（信息处理单元）的特性；神经元（信息处理单元）的特性； (2)神经元之间相互连接的形式神经元之间相互连接的形式拓扑结拓扑结构；构； (3)为适应环境而改善性能的学习规则。为适应环境而改善性能的学习规则。神经元网络的简化模型niiitxwfty1)()(yx1x2x nw1w2w n 线性系统非线性函数ai1

4、ai2a inbi1bi2bimwiy1y2y nu1ukum1vix iy imkikikinjijiwtubtyatv11)()()(神经元网络的一般模型框架1）加法器2）线性动态系统（SISO）3）静态非线性系统某个神经元 j 的输入输出关系为其中， 为阀值， 为连接权，f()为变换函数， 也称活化函数(activation function)。变换函数的种类有很多种，可参见p.126。其中用得最多的是比例函数 y=f(x)=s 和 S-型函数，Sigmoidal functionSyjjf1,00jijniijixxjniijijxs1jji (3) (3) 自组织网络自组织网络 网络

5、结构如图所示。网络结构如图所示。KohonenKohonen网络是最典型的网络是最典型的自组织网络。自组织网络。KohonenKohonen认为，当神经网络在接受外认为，当神经网络在接受外界输入时，网络将会分成不同的区域，不同区域具界输入时，网络将会分成不同的区域，不同区域具有不同的响应特征，即不同的神经元以最佳方式响有不同的响应特征，即不同的神经元以最佳方式响应不同性质的信号激励，从而形成一种拓扑意义上应不同性质的信号激励，从而形成一种拓扑意义上的特征图，该图实际上是一种非线性映射。这种映的特征图，该图实际上是一种非线性映射。这种映射是通过无监督的自适应过程完成的，所以也称为射是通过无监督的

6、自适应过程完成的，所以也称为自组织特征图。自组织特征图。 Kohonen Kohonen网络通过无导师的学习方式进行权值网络通过无导师的学习方式进行权值的学习，稳定后的网络输出就对输入模式生成自的学习，稳定后的网络输出就对输入模式生成自然的特征映射，从而达到自动聚类的目的。然的特征映射，从而达到自动聚类的目的。输出节点输入0 x1x2x图图 自组织神经网络自组织神经网络 x1x2xnb1b2bm权向量WjiijijIIkwkw)() 1(其中，其中，为连接从神经元为连接从神经元到神经元到神经元的的当前权值，当前权值，和和为神经元的激活水平。为神经元的激活水平。Hebb学习规则是一种无教师的学习

7、方学习规则是一种无教师的学习方法，它只根据神经元连接间的激活水平改法，它只根据神经元连接间的激活水平改变权值，因此，这种方法又称为相关学习变权值，因此，这种方法又称为相关学习或并联学习。或并联学习。)(kwijijiIjIPppPpppEydE112)(21pdpy)(ppWXfy WTnwwwW, 1, 0pXTpnpppxxxX,10Pp, 2 , 1iWEWPpipiWEWE1221pppydEppWxippppipppppipppipXfydXyyEWEWE)( )(PpippppiXfydW1)( )(1.5 1.5 神经网络特征神经网络特征 神经网络具有以下几个特征：神经网络具有以

8、下几个特征：（1 1）能逼近任意非线性函数；）能逼近任意非线性函数；（2 2）信息的并行分布式处理与存储；）信息的并行分布式处理与存储；(3) (3) 可以多输入、多输出；可以多输入、多输出；（4 4）便于用超大规模集成电路（）便于用超大规模集成电路（VISIVISI）或光）或光学集成电路系统实现，或用现有的计算机技学集成电路系统实现，或用现有的计算机技术实现；术实现；（5 5）能进行学习，以适应环境的变化。）能进行学习，以适应环境的变化。1.6神经网络控制的研究领域神经网络控制的研究领域 1 1 基于神经网络的系统辨识基于神经网络的系统辨识 将神经网络作为被辨识系统的模型，可在已知将神经网络

9、作为被辨识系统的模型，可在已知常规模型结构的情况下，估计模型的参数。常规模型结构的情况下，估计模型的参数。 利用神经网络的线性、非线性特性，可建立线利用神经网络的线性、非线性特性，可建立线性、非线性系统的静态、动态、逆动态及预测性、非线性系统的静态、动态、逆动态及预测模型，实现非线性系统的建模和辨识。模型，实现非线性系统的建模和辨识。(2) (2) 神经网络控制器神经网络控制器 神经网络作为实时控制系统的控制器，对不神经网络作为实时控制系统的控制器，对不确定、不确知系统及扰动进行有效的控制，使控确定、不确知系统及扰动进行有效的控制，使控制系统达到所要求的动态、静态特性。制系统达到所要求的动态、

10、静态特性。 (3) (3) 神经网络与其他算法相结合神经网络与其他算法相结合 将神经网络与专家系统、模糊逻辑、遗传算法将神经网络与专家系统、模糊逻辑、遗传算法等相结合，可设计新型智能控制系统。等相结合，可设计新型智能控制系统。(4) (4) 优化计算优化计算 在常规的控制系统中，常遇到求解约束优化问在常规的控制系统中，常遇到求解约束优化问题，神经网络为这类问题的解决提供了有效的途题，神经网络为这类问题的解决提供了有效的途径。径。 目前，神经网络控制已经在多种控制结构中得目前，神经网络控制已经在多种控制结构中得到应用，如到应用，如PIDPID控制、模型参考自适应控制、前馈控制、模型参考自适应控制、前馈反馈控制、内模控制、预测控制、模糊控制等。反馈控制、内模控制、预测控制、模糊控制等。