GA与ANN的结合

2023-12-28 14:16:20   第一文档网     [ 字体: ] [ 阅读: ] [ 文档下载 ]
说明:文章内容仅供预览,部分内容可能不全。下载后的文档,内容与下面显示的完全一致。下载之前请确认下面内容是否您想要的,是否完整无缺。下载word有问题请添加QQ:admin处理,感谢您的支持与谅解。点击这里给我发消息

#第一文档网# 导语】以下是®第一文档网的小编为您整理的《GA与ANN的结合》,欢迎阅读!
结合,ANN

GAANN的结合

作者:吴

来源:《吉林省教育学院学报·上旬刊》 2011年第9



吴伟

1.苏州市职业大学,江苏 苏州 215104 2.苏州大学 计算机科学与技术学院,江苏 苏州 215104

摘要:本文主要讲述了GA算法的特点和ANN的优点并说明了GAANN结合的必要性,同时对今后的研究前景作了具体的展望。

关键词:遗传算法GA;人工神经网络ANN;结合

中图分类号:G642文献标识码:A文章编号:16711580201109011102

一、遗传算法(Genetic AlgorithmsGA)

遗传算法是一类借鉴生物界自然选择和自然遗传机理的随机优化算法,是模拟达尔文遗传选择和自然淘汰生物进化过程的计算模型。主要特点是群体搜索策略和群体中个体的信息交换,搜索不依赖于梯度信息。尤其适用于处理传统搜索方法难以解决的复杂和非线性问题。可广泛用于组合优化,机器学习,自适应控制,规划设计和人工生命等领域。

随着问题种类的不同以及问题规模的扩大,要寻求一种能以有限的代价来解决搜索和优化的通用方法,GA正是为我们提供的一个有效的途径,它不同于传统的搜索和优化方法。主要区别在于:一是自组织、自适应和自学习性(智能性)。应用GA求解问题时,在编码方案、适应度函数及遗传算子确定后,算法将利用进化过程中获得的信息自行组织搜索。通常,适应度大的个体具有更适应环境的基因结构,再通过基因重组和基因突变等遗传操作,就可能产生更适应环境的后代。进化算法的这种自组织、自适应特征,使它同时具有能根据环境变化来自动发现环境的特性和规律的能力。自然选择消除了算法设计过程中的一个最大障碍,即需事先描述问题的全部特点。因此,利用GA的方法,可以解决复杂的非结构化问题。

二是GA的本质并行性。GA按并行方式搜索一个种群数目的点,而不是单点。它的并行性表现在两个方面,一方面遗传算法是内在并行的(inherent parallelism),即GA本身非常适合大规模并行;另一方面是GA的内涵并行性(implicit parallelism)。由于GA采用种群的方式组织搜索,因而可同时搜索解空间内的多个区域,并相互交流信息。使用这种搜索方式,虽然每次只执行与种群规模n成比例的计算,但实质上已进行了大约O(n3)次有效搜索,这就使GA能以较少的计算获得较大的收益。三是GA不需要求导或其他辅助知识,而只需要影响搜索方向的目标函数和相应的适应度函数。四是GA强调概率转换规则,而不是确定的转换规则。五是GA对给定问题可以产生许多的潜在解,最终选择可以由使用者确定(在某些特殊情况下。如:多目标优化问题不止一个解存在,有一组pareto(排列图)最优解。这种GA对于确认可替代解集而言是特别适合的。

二、人工神经网络(Artificial Neural NetworksANN)

人工神经网络是由大量简单的基本元件——神经元(neuron)相互连接而成的自适应非线性动态系统。每个神经元的结构和功能比较简单,而大量神经元组合产生的系统行为却非常复杂。人工神经元是对生物神经元的简化和模拟,它是一个多输入、单输出的非线性元件,其输入输出关系可描述为:




Ii=nj-1wjixj-θi (1.1

yi=f(Ii)(1.2)

其中xj(j=12,…,n)是从其他细胞传来的输入信号,θi为神经元单元的偏置(阈值)Wji表示从细胞j到细胞i的连接权值(对于激发状态,Wji取正值;对于抑制状态,Wji取负)n为输入信号数目。yi为神经元输出,f(·)称为传递函数,有时叫做激发或激励函数,往往采用01二值函数或S型函数。

ANN之所以受到人们如此重视,主要是因为它具有如下特点:一是并行分布处理。ANN具有高度的并行结构和并行实现能力,因而能够有较好的耐故障能力和较快的总体处理能力。这种并行计算的处理,使得ANN可用于实时快速处理信息,特别适用于实时控制和动态控制。二是非线性映射。一个神经元可以是线性的或者非线性的,一个由非线性神经元互联而成的ANN身是非线性的,并且非线性是一种分布于整个网络中的特殊性质。三是自适应学习过程。ANN具有的自适应与自组织能力,通过训练可以改变连接权值,以适应周围环境的要求,抽象出样本的主要特征。ANN是一个具有学习能力的系统,可以发展知识,以至超过设计者原有的知识水平。四是鲁棒性。神经网络的信息分布特点,使经过训练的ANN具有强大的联想能力,对个别神经元和连接权值的损坏,并不会对信息特征造成太大的影响,表现了ANN强大的鲁棒性,即受干扰时自动稳定的特性,和强大的容错能力。从以上几点可以看出,神经网络的优点是传统优化算法难以比拟的,ANN的应用领域非常广泛,在人工智能、自动控制、计算机科学、信息处理、机器人、模式识别都发挥了重要作用。

三、GAANN结合的必要性

ANN问世以来,基于很强的自适应、自学习、自组织和大规模并行处理等能力,近年来备受瞩目,已获得广泛应用。但是有效地确定神经网络参数和结构,一直是神经网络研究中的一个难点,为得到满意的参数和结构往往需要经过大量的反复实验,还存在着训练速度慢、易陷入局部最优和全局搜索能力弱等缺陷,GA的迅速发展使ANN的训练有了一个崭新的面貌。然而,GA作为一种求解复杂系统优化问题的通用方法,当问题的解空间较大或实时性要求较高时,GA就会面临由于迭代次数过大带来的运行速度的瓶颈。此外,GA是一种种群依赖的优化算法,需要不断地产生新的种群,对每个个体都需要进行适应度值计算,极大地限制了算法的运行速度。如果二者有机地结合,相互取长补短,那么新系统将具有两者的优点,从而达到扬长避短。GAANN都是将生物学原理应用于科学研究的仿生学理论成果,尽管二者的产生都受到了自然界中信息处理方法的启发,但来源并不相同,GA是从自然界生物进化机制获得启示的,而ANN则是人脑或动物神经网络若干基本特性的抽象和模拟。ANN善于直接从数据中进行学习,而GA善于求解复杂的全局最优问题,具有极强的稳健性和整体优化性:GA优化搜索的广度和适应性优于ANN,而ANN的优化、学习精度优于GA。虽然两者各有特点,但它们共同的仿生基础决定了二者存在必然的联系。尤其是两者技术的结合所产生的强大生命力更是吸引了越来越多的研究者和探索者。

综上所述,神经网络在学习和自动模式识别方面有极强的优势,但全局搜索能力比较弱,而遗传算法在求解复杂的全局最优问题方面具有极强的优势,整体优化性显著。若采用遗传算法优化后的神经网络来处理复杂的非线性问题,便可实现各取所长、优势互补。因而GAANN的结合势必给智能科学提供一条捷径,所以这一方面的研究具有一定的可行性和前沿性。

四、研究前景展望

首先,对GA的改进算法有待继续研究。如:继续发展并行遗传算法(PGA),以提高GA的搜索速度。其次,开展ANN结构表达策略的研究。针对现有表达策略的适应度噪声和敏感性问题


的特点,应大胆将图论、集合、形态学等工具引入ANN结构表达策略中。第三,加强对GA

ANN的理论研究。将数学引人到GAANN的定量分析,并争取得出确定性的结论作为操作准则。第四,将现有的不同结构优化方法思想融合。集成各方法的优点,扬长避短,最大限度发挥现有方法的优势。

[参考文献]

1Goldberg D E.Genetic Algorithms in Search. Optimization and Machine LeaningAddison-wesky1989.

2 Holland J H.Adaptation in Nature and Artificial System.Ann Arbor:University of Michigan Press1975.

3 孙晓燕,高振,巩敦卫.基于合作式协同进化算法的神经网络优化[J.中国矿业大学学报,2006,(1.

4 肖瑛,刘国枝,李振兴,董玉华.遗传优化神经网络的水声信道盲均衡[J].应用声学,2006(6).

5 朱灿,梁昔明.一种多精英保存策略的遗传算法[J.计算机应用,2008(4)

6 朱大奇.人工神经网络研究现状及其展望[J].江南大学学报,2004(1).

7 阎平凡,张长水.人工神经网络与模拟进化计算[M.北京:清华大学出版社,2001

8 王凌.智能优化算法及其应用[M.北京:清华大学出版社,2001.


本文来源:https://www.dywdw.cn/91f62ac84328915f804d2b160b4e767f5acf8086.html

相关推荐
推荐阅读