神经网络的智能控制系统
摘要:介绍了神经网络的基本概念,论述了人工神经网络的产生与发展,以及人工神经网络在控制系统中的应用现状,分析了人工神经网络的特点和监视控制系统的原理,并阐述了几种基于神经网络的控制系统, 最后展望了基于神经网络控制的发展方向。
关键词:人工神经网络;控制系统;监视控制系统;智能控制;
1引言
基于神经网络的控制(NCC).神经网络控制是一门崭新的智能信息处理学科,研究非程 序的、适应性的、大脑风格的信息处理的本质和能力。它的发展对人工智能、计算机科学、 信息科学、非线性科学、认识科学、自动控制、微电子、模式识别、脑神经科学等产生了重 要影响。
人工神经网络是一门发展十分迅速的交叉学科, 它是由大量处理单元组成的非线性大规 模自适应动力系统,具有学习能力、记忆能力、计算能力以及智能处理能力,并在不同程度 和层次上模仿人脑神经系统的信息处理、 存储及检索功能。 同时, 人工神经网络具有非线性、 非局域性、非定常性、非凸性等特点,因此在智能控制、模式识别、计算机视觉、自适应滤 波和信号处理、非线性优化、自动目标识别、连续语音识别、声纳信号的处理、知识处理、 智能传感技术与机器人、生物医学工程等方面都有了长足的发展。
神经网络控制是一种基本上不依赖于模型的控制方法,它适合于具有不确定性或高度非线性的控制对象,并具有较强的自适应和自学习功能,因此是智能控制的一个重要分支领域。人工神经网络利用物理器件来模拟生物神经网络的某些结构和功能,具有并行和分
布式的信息处理网络结构,该结构一般由几个神经元组成,每一个神经元有一个单一的输出,但可通过连接的很多其它神经元,获得有多个连接通道的输入,每个连接通道对应一个连接权系数。
2人工神经网络的产生与发展
早在1943年,美国神经生物学家W.S.McCul-loch就与数学家W.Pitts合作,采用数理模型的方法研究脑细胞的动作和结构,以及生物神经元的一些基本生理特征,提出第一个神经计算模型,即神经元的阈值元件模型(MP模型),并指出:即使是最简单的神经网络,从原则上讲也可以进行任意算术或逻辑函数的计算。1949年,D.O.Hebb提出了改变神经元连接强度的Hebb规则,其正确性30年后才得到证实,至今仍在各种神经网络模型中起着重要的作用。
1957年F.Rosenblatt提出并设计制作了著名的感知器(Perceptron),从而掀起第一次研究神经网络的热潮。1960年B.Windrow和M.E.Hoff提出自适应线性单元(Adaline)网络,这与当时占主导地位的以顺序离散符号推理为基本特征的AI途径完全不同,因而引起人们的兴趣,同时也引起符号主义与连接主义的争论。1969年M.Minsky和S.Papert编写了影响很大的《Perceptron》一书。在肯定感知器的研究价值的同时,指出感知器的局限性,在数学上证明了感知器不能解决XOR等线性不可分问题。
20世纪80年代以来,人工神经网络进入一个高速发展的阶段,Prigogine因提出非平衡系统的自组织理论(耗散结构理论)而获得诺贝尔奖;近年来广泛研究的浑沌动力学和奇异吸引子理论,则揭示了系统的复杂行为。1982年美国加州工学院物理学家J.J.Hopfield提出著名的Hopfield模型,有力地推动了神经网络的研究。Hopfield通过引入“计算能量函数”的概念,给出网络稳定性判据。1984年Hopfield提出网络模型实现的电子电路,
为神经网络的工程实现指明了方向。1985年Hinton和Sejnowski将模拟退火算法引入到神经网络中,提出Boltzmann机模型,为神经网络优化计算提供了一个有效方法。D.E.Rumelhart和J.L.McClelland等人提出的PDP(并行分布处理理论),致力于认知微观结构的探索;1986年提出了多层网络的反向传播学习算法(BP算法),把学习结果反馈到中间层次的隐单元,改变它们的联系矩阵,从而达到预期的学习目的,迄今为止仍是应用最广泛的神经网络。
进入20世纪90年代以来,神经网络的研究已进入相对平稳的发展时期,许多理论得到了进一步的证实、补充与发展。同时神经网络的应用研究得以广泛开展,应用的领域也不断扩大。神经网络理论的应用已经渗透到各个领域,并在智能控制、模式识别、计算机视觉、自适应滤波和信号处理、非线性优化、自动目标识别、连续语音识别、声纳信号的处理、知识处理、传感技术与机器人、生物医学工程等方面,都取得很大的进展。
3 人工神经网络的基本概念和基本原理
人工神经网络 (ArtificialNeuralNetworks, 简写为 ANNs) 也简称神经网络 (NNs) 或称作连接模型(ConnectionistModel) ,它是一种模范动物神经网络行为特征,进行分布 式并行信息处理的算法数学模型。 这种网络依靠系统的复杂程度, 通过调整内部大量节点之 间相互连接的关系,从而达到处理信息的目的。人工神经网络具有自学习和自适应的能力, 可以通过预先提供的一批相互对应的输入-输出数据, 分析掌握两者之间潜在的规律, 最终 根据这些规律,用新的输入数据来推算输出结果,这种学习分析的过程称为“训练” 。
人工神经网络首先要以一定的学习准则进行学习,然后才能工作。现以人工神经 网络对手写“A”、“B”两个字母的识别为例进行说明,规定当“A”输入网络时, 应该输出
“1”,而当输入为“B”时,输出为“0”。
所以网络学习的准则应该是:如果网络作出错误的的判决,则通过网络的学习, 应使得网络减少下次犯同样错误的可能性。首先,给网络的各连接权值赋予(0,1)区 间内的随机值,将“A”所对应的图象模式输入给网络,网络将输入模式加权求和、 与门限比较、再进行非线性运算,得到网络的输出。在此情况下,网络输出为“1” 和“0”的概率各为 50%,也就是说是完全随机的。这时如果输出为“1”(结果正确), 则使连接权值增大,以便使网络再次遇到“A”模式输入时,仍然能作出正确的判断。
如果输出为“0”(即结果错误),则把网络连接权值朝着减小综合输入加权值的 方向调整,其目的在于使网络下次再遇到“A”模式输入时,减小犯同样错误的可能 性。如此操作调整,当给网络轮番输入若干个手写字母“A”、“B”后,经过网络按 以上学习方法进行若干次学习后,网络判断的正确率将大大提高。这说明网络对这两 个模式的学习已经获得了成功,它已将这两个模式分布地记忆在网络的各个连接权值 上。当网络再次遇到其中任何一个模式时,能够作出迅速、准确的判断和识别。一般 说来,网络中所含的神经元个数越多,则它能记忆、识别的模式也就越多。
“人脑是如何工作的?”
“人类能否制作模拟人脑的人工神经元?”
多少年以来,人们从医学、生物学、生理学、哲学、信息学、计算机科学、认知 学、组织协同学等各个角度企图认识并解答上述问题。在寻找上述问题答案的研究过 程中,近年来逐渐形成了一个新兴的多学科交叉技术领域,称之为“神经网络”。神 经网络的研究涉及众多学科领域,这些领域互相结合、相互渗透并相互推动。不同领 域的科学家又从各
自学科的兴趣与特色出发,提出不同的问题,从不同的角度进行研 究。 心理学家和认知科学家研究神经网络的目的在于探索人脑加工、储存和搜索信息 的机制,弄清人脑功能的机理,建立人类认知过程的微结构理论。 生物学、医学、脑科学专家试图通过神经网络的研究推动脑科学向定量、精确和 理论化体系发展,同时也寄希望于临床医学的新突破;信息处理和计算机科学家研究 这一问题的目的在于寻求新的途径以解决目前不能解决或解决起来有极大困难的大 量问题,构造更加逼近人脑功能的新一代计算机。
人工神经网络是由大量的简单基本元件——神经元相互联接而成的自适应非线 性动态系统。每个神经元的结构和功能比较简单,但大量神经元组合产生的系统行为 却非常复杂。
人工神经网络反映了人脑功能的若干基本特性,但并非生物系统的逼真描述,只 是某种模仿、简化和抽象。 与数字计算机比较,人工神经网络在构成原理和功能特点等方面更加接近人脑, 它不是按给定的程序一步一步地执行运算,而是能够自身适应环境、总结规律、完成 某种运算、识别或过程控制。 人工神经元的研究起源于脑神经元学说。19 世纪末,在生物、生理学领域, Waldeger 等人创建了神经元学说。 人们认识到复杂的神经系统是由数目繁多的神经元 组合而成。大脑皮层包括有 100 亿个以上的神经元,每立方毫米约有数万个,它们互 相联结形成神经网络,通过感觉器官和神经接受来自身体内外的各种信息,传递至中 枢神经系统内,经过对信息的分析和综合,再通过运动神经发出控制信息,以此来实 现机体与内外环境的联系,协调全身的各种机能活动。
神经元也和其他类型的细胞一样,包括有细胞膜、细胞质和细胞核。但是神经细 胞的形态比较特殊,具有许多突起,因此又分为细胞体、轴突和树突三部分。细胞体 内有细胞核,突起的作用是传递信息。树突是作为引入输入信号的突起,而轴突是作 为输出端的突起,它只有一个。 树突是细胞体的延伸部分,它由细胞体发出后逐渐变细,全长各部位都
可与其他 神经元的轴突末梢相互联系,形成所谓“突触”。在突触处两神经元并未连通,它只 是发生信息传递功能的结合部,联系界面之间间隙约为(15~50)×10 米。突触可分 为兴奋性与抑制性两种类型,它相应于神经元之间耦合的极性。每个神经元的突触数 目正常,最高可达 10 个。各神经元之间的连接强度和极性有所不同,并且都可调整、 基于这一特性,人脑具有存储信息的功能。利用大量神经元相互联接组成人工神经网 络可显示出人的大脑的某些特征。下面通过人工神经网络与通用的计算机工作特点来 对比一下:
若从速度的角度出发,人脑神经元之间传递信息的速度要远低于计算机,前者为 毫秒量级,而后者的频率往往可达几百兆赫。但是,由于人脑是一个大规模并行与串 行组合处理系统,因而,在许多问题上可以作出快速判断、决策和处理,其速度则远 高于串行结构的普通计算机。 人工神经网络的基本结构模仿人脑, 具有并行处理特征, 可以大大提高工作速度。 人脑存贮信息的特点为利用突触效能的变化来调整存贮内容,也即信息存贮在神 经元之间连接强度的分布上,存贮区与计算机区合为一体。虽然人脑每日有大量神经 细胞死亡 (平均每小时约一千个),但不影响大脑的正常思维活动。
普通计算机是具有相互的存贮器和运算器,知识存贮与数据运算互不相关, 只有通过人编出的程序使之沟通,这种沟通不能超越程序编制者的预想。元器件的局 部损坏及程序中的微小错误都可能引起严重的失常。 人类大脑有很强的自适应与自组织特性,后天的学习与训练可以开发许多各具特 色的活动功能。如盲人的听觉和触觉非常灵敏;聋哑人善于运用手势;训练有素的运 动员可以表现出非凡的运动技巧等等。 普通计算机的功能取决于程序中给出的知识和能力。显然,对于智能活动要通过 总结编制程序将十分困难。 人工神经网络也具有初步的自适应与自组织能力。在学习或训练过程中改变突触 权重值, 以适应周围环境的要求。 同一网络因学习方式及内容不同可具有不同的功能。 人工神经网络是一个具有学习能力的系统,可以发展知识,以致超过设计者原有的知 识水平。通常,它的学习训练方式可分为两种,一种是有监督或称有导师的学习,这 时利用给定的样本标
准进行分类或模仿;另一种是无监督学习或称无为导师学习,这时,只规定学习方式或某些规则,则具体的学习内容随系统所处环境 (即输入信号 情况)而异,系统可以自动发现环境特征和规律性,具有更近似人脑的功能。
4人工神经网络的特点
人工神经网络是生物神经网络的一种模拟和近似,主要从两个方面进行模拟:一个是结构和实现机理方面,它涉及到生物学、生理学、心理学、物理及化学等许多基础学科。由于生物神经网络的结构和机理非常复杂,现在从这方面模拟还仅在尝试[1];另一个是功能方面,即尽量使人工神经网络具有生物神经网络的某些功能特性,如学习、识别、控制等。目前应用的神经网络均是对功能方面的模拟。神经网络有以下一些特点。
(1)
具有自适应功能:
主要是根据所提供的数据,通过学习和训练,找出和输出之间的内在联系,从而求得问题的解答,而不是依靠对问题的经验知识和规则,因而具有良好的自适应性。
(2)
具有泛化功能:
能够处理那些不经训练过的数据,而获得相应于这些数据的合适的解答;也能处理那些有噪声或不完全的数据,从而显示了很好的容错能力。
(3)
非线性映射功能:
现实的问题非常复杂,各因素间互相影响,呈现出复杂的非线性关系,神经元网络为处理这些问题提供了有用的工具。
(4)
高度并行处理信息:
此特点使用硬件实现的神经网络的处理速度远远高于普通计算机。 4.1高度的并行性
人工神经网络是由许多相同的简单处理单元并联组合而成,大量简单处理单元的并行活动,使其处理信息的能力大大提高。
4.2高度的非线性全局作用
人工神经网络的每个神经元接受大量其他神经元的输入,并通过并行网络产生输出,影响其他神经元。网络之间的这种相互制约和影响,实现了从输入状态到输出状态空间的非线性映射。从全局的观点来看,网络整体性能不是网络局部性能的简单叠加,而是表现出某种集体性行为。
4.3良好的容错性和联想记忆功能
人工神经网络通过自身的网络结构能够实现对信息的记忆,所记忆的信息以分布式存储在神经元之间的权值中,使得网络具有良好的容错性,并能进行聚类分析、特征提取、模式复原等模式信息处理工作,又宜于做模式分类、模式联想等模式识别工作。人工神经网络可以通过训练和学习来获得网络的权值和结构,呈现出很强的自学能力和对环境的自适应能力,便于现有计算机技术虚拟实现。
5人工神经网络在控制系统中的应用
神经网络控制的研究始于20世纪60年代。1960年,Widrow和Hoff首先将神经网络运用于控制系统。Kilmer和McCulloch提出了KMB神经网络模型,并在“阿波罗”登月计划中的应用取得良好的效果。19年,widrow等用神经网络对小车倒立摆系统控制取得成功。
神经网络控制可以分为监视控制、逆控制、神经适应控制、实用反向传播控制和适应评价控制等。在智能控制系统中,最重要的是和知识基有关的推理机型,以及随环境变化的适应能力。一般而言,推理是以符号为元素执行的,而客观世界中的信号是数值,为了理解过程的状态,需要实施数值数据到符号数据的映射,这就要把数值数据进行分类。另外,对过程的控制需要自适应控制器。神经网络的分类功能和学习能力可以使其有效地用于智能控制系统,神经网络用于控制系统是“物尽其用”的必然结果。
IEEE神经网络协会出版刊物ToshioFukuda教授和《神经计算应用手册》的作者P.J.Werbos把神经网络控制系统分为5大类:一是监视控制;二是逆控制;三是神经适应控制;四是实用反问传播控制;五是适应评价控制。根据划分情况,神经网络控制系统有5类不同的结构,而且神经网络在控制系统中的位置和功能有所不同,学习方法也不尽相同。
神经网络的应用已经涉及到各个领域,且取得了很大的进展。
自动控制领域:主要有系统建模和辨识,参数整定,极点配置,内模控制,优化 设计,预测控制,最优控制,滤波与预测容错控制等。
处理组合优化问题:成功解决了旅行商问题,另外还有最大匹配问题,装箱问题 和作业调度问题。
模式识别:手写字符,汽车牌照,指纹和声音识别,还可用于目标的自动识别, 目标跟踪,机器人传感器图像识别及地震信号的鉴别。
图像处理:对图像进行边缘监测,图像分割,图像压缩和图像恢复。
机器人控制:对机器人轨道控制,操作机器人眼手系统,用于机械手的故障诊断 及排除,智能自适应移动机器人的导航,视觉系统。
医疗:在乳房癌细胞分析,移植次数优化,医院费用节流,医院质量改进等方面 均有应用。
6基于神经网络的几种控制系统
有关神经网络控制方法与结构的文献很多,分类方法也很多,但典型的控制结构应包括:神经网络监督控制(或称神经网络学习控制);神经网络自适应控制(自校正、模型参考控制,含直接与间接自适应控制);神经网络内模控制;神经网络自适应评判控制(或称神经网络再励控制)等。神经网络控制结构方案的研究,构成了神经网络控制方法的设计基础。具有代表性的神经网络控制系统有:全局逼近、局部逼近和模糊神经网络控制系统。
6.1基于全局逼近神经网络的控制
全局逼近网络是在整个权空间上对误差超曲面的逼近,故对输入空间中的任意一点,任意一个或多个连接权的变化都会影响到整个网络的输出,其泛化能力遍及全空间,如BP网络等。由于在全局逼近网络中,每一个训练样本都会使所有连接权发生变化,这就使响应的收敛速度极其缓慢。当网络规模较大时,这一特点使其实际上难以在线应用。利用全局逼近神经网络的异步自学习控制系统如图1所示。
图1基于全局逼近式神经网络异步自学习控制系统
由于神经网络控制器实际上是一个非线性控制器,因此一般难以对其进行稳定性分析。全局逼近网络在控制系统中的作用,主要体现在两个方面:提供一个类似于传统控制器的神经网络控制器;为神经网络控制器进行在线学习,提供性能指标关于控制误差梯度的反向传播通道,如建立被控对象的正向网络模型等。此外,结合稳定性分析,对神经网络的控制结构方案进行特别设计,还可以为分析复杂问题提供一个有效的解决途径。
6.2基于局部逼近神经网络的控制
局部逼近网络只是对输入空间一个局部邻域中的点,才有少数相关连接权发生变化,如CMAC、RBF和FLN网络等。由于在每次训练中只是修正少量连接权,而且可修正的连接权是线性的,因此其学习速度极快,并且可保证全空间上误差全平面的全局收敛特性可以实时应用。其不足之处是采用间断超平面对非线性超曲面的逼近,可能精度不够,同时也得不到相应的导数估计;采用高阶B样条的BMAC控制,则部分弥补了CMAC的不
足,但计算量略有增加;基于高斯径向函数(RBF)的直接自适应控制,是有关非线性动态系统的神经网络控制方法中,较为系统且逼近精度最高的一种方法,但它需要的固定或可调连接权太多,且RBF的计算也太多,利用目前的串行计算机仿真实现时,计算量与内存过大,很难实时实现。
6.3模糊神经网络控制
模糊神经网络控制系统的基本思路是:利用模糊box分割问题空间,使每个模糊box不仅具有CEN给出的评分,含有作为控制作用的输出语言变量,而且整个模糊box还隐含定义了模糊规则库。模糊神经网络主要有三种结构:输入信号为普通变量,连接权为模糊变量;输入信号为模糊变量,连接权为普通变量;!输入信号与连接权均为模糊变量。它们还可根据网型及学习算法中的点积运算是使用模糊逻辑运算,还是使用模糊算术运算,分成常规和混合型模糊神经网络。
7人工神经网络的发展方向
人工神经网络特有的非线性适应性信息处理能力,克服了传统人工智能方法对于 直觉 ,如模式、语音识别、非结构化信息处理方面的缺陷,使之在神经专家系统、模 式识别、智能控制、组合优化、预测等领域得到成功应用。人工神经网络与其它传统 方法相结合,将推动人工智能和信息处理技术不断发展。近年来,人工神经网络正向 模拟人类认知的道路上更加深入发展,与模糊系统、遗传算法、进化机制等结合,形 成计算智能,成为人工智能的一个重要方向,将在实际应用中得到发展。将信息几何 应用于人工神经网络的研究,为人工神经网络的理论研究开辟了新的途径。神经计算 机的研究发展很快,已有产品进入市场。光电结合的神经计算机为人工神经网络的发 展提供了良好条件。
人工神经网络控制的研究,无论从理论上还是从应用上目前都取得了很大进展,但是,
离模拟真实的生物神经系统还相距甚远,所使用的形式神经网络模型无论从结构还是网络规模上,都是真实神经网络的极简单模拟,因此神经网络控制的研究还非常原始,结果也大都停留在仿真或实验室研究阶段,完整、系统的理论体系,大量艰难而富有挑战性的理论问题尚未解决。
从总体上来看,今后的研究应致力于以下几方面:基础理论研究,包括神经网络的统一模型与通用学习算法,网络的层数、单元数、激发函数的类型、逼近精度与拟逼近非线性映射之间的关系,持续激励与收敛,神经网络控制系统的稳定性、能控性、能观性及鲁棒性等;研究专门适合于控制问题的动态神经网络模型,解决相应产生的对动态网络的逼近能力与学习算法问题;神经网络控制算法的研究,特别是适合于神经网络分布式并行计算特点的快速学习算法;对成熟的网络模型与学习算法,研究相应的神经网络控制专用芯片。
参考文献
[1] 李祖枢,涂亚庆.仿人智能控制.北京:国防工业出版社,2003
[2] 王耀南.智能信息处理技术.北京:高等教育出版社,2003.8
[3] 李士勇.模糊控制.神经控制和智能控制论.哈尔滨:哈尔滨工业大学出版社,1998.9
[4] 李人厚,秦世引.智能控制理论和方法.西安:西安交通大学出版社,1994
[5] 康南生,方廷健.人工智能行为方法研究.模式识别与人工智能,1992.8
因篇幅问题不能全部显示,请点此查看更多更全内容
Copyright © 2019- sceh.cn 版权所有 湘ICP备2023017654号-4
违法及侵权请联系:TEL:199 1889 7713 E-MAIL:2724546146@qq.com
本站由北京市万商天勤律师事务所王兴未律师提供法律服务