文档介绍：2005 届优秀毕业论文[设计]集(第五册理学院)
Collection Graduation Theses (Projects) of SZU 2005 (VOLUME V School of Science)
粒子群算法综述
(理学院数学与应用数学陶艾)
(学号:2001144029)
内容提要:粒子群优化算法(PSO)是一类基于群体智能(Swarm Intelligence)的随机全
局优化算法。本文主要介绍它的背景、历史、发展和应用。
关键词:群体智能,粒子群算法,全局优化。
教师点评:文章主要介绍了粒子群优化算法的背景、历史、发展和应用,比较详细地介绍
了粒子群在神经网络中的应用,并通过将其与遗传算法作比较,说明了粒子群算法更优于遗传
算法。(点评教师:李国,副教授)
§1 引言
在科学研究、工程实际和国民经济发展中许多问题可以归结为如下的数学模型:
Max{F()x | x ∈ D ⊂ R n }
这类数学模型的目标在于寻求区域 D 内函数 F(x)的最大值(或等价的,或最小值)——称
之为函数优化问题。全球优化问题的运算法则在现代生产设计和体系的实施中的作用显得越来
越重要。函数优化问题求解算法的研究,已经有很长的研究历史。简单地说,目前已有的函数
优化算法可分为确定性优化和随机性优化两大类。确定性优化算法以建立在梯度计算基础上的
非线性规划类方法为代表,。例如牛顿法、最速下降法等,这类算法的特点是求解速度快,并
且具有很好的理论基础。但它们也具有一些本质的缺陷,这主要表现在:(1)它们仅仅只能够
求出函数在区域 D 内局部范围的极值(即,局部极值),而不是整个区域上的全局最优值,(2)
这类方法对待优化函数的光滑性一般要求较高(例如,二阶连续可导),这当然极大地限制了
其应用范围。随机性方法属于当前比较热门的研究范畴,这类算法的主要特点是由于在计算中
引入随机性因素,因此算法一般具有适用面广、全局优化性强、算法简明易行、稳健等突出的
优点。仿生类算法(例如遗传算法、进化程序、演化规划、模拟退化方法等)是目前有代表性
的随机性算法,它们虽然具有随机性算法的共同有点,但它们的突出的缺陷是,算法的计算速
度比较慢,并且算法执行过程中涉及到许多参数,这些参数的选取没有理论依据,往往依赖于
使用者的经验和反复的计算实践,并且选取的参数没有可推广性。本文目的在于讨论一种全新
的解全局优化问题的算法——粒子群优化算法(Particle Swarm Optimization,简记为 PSO),虽
然同样属于仿生类算法,但相对于其它仿生类算法,它们往往具有较快的计算速度,并且执行
过程中仅需要很少的参数选取。正是由于这些突出的优点,PSO 算法已广泛应用到函数优化、
模式分类、模糊系统的控制、以及神经网络的训练等众多的学科领域。
粒子群优化算法(Particle Swarm Optimization ,简记为 PSO) 是一种进化计算技术
(putation),由 Eberhart 博士和 Kennedy[1]博士发明,源于对鸟群捕食的行为研
究。PSO 同遗传算法类似,是一种基于迭代的优化工具。系统初始化为一组随机解,通过迭代
搜寻最优值。但是并没有遗传算法用的交叉(crossover)以及变异(mutation)。而是粒子在解空间
追随最优的粒子进行搜索。
同遗传算法比较,PSO 的优势在于简单容易实现并且没有许多参数需要调整。目前已广泛
应用于函数优化,神经网络训练,模糊系统控制以及其他遗传算法的应用领域。
1
陶艾:粒子群算法综述
§2 PSO 算法产生的背景
“人工生命”是研究怎样通过抽取生物现象中的基本动态规则来理解生命,并且在物理媒
体如计算机上重建这些现象,使它们成为一种新的实验方式。人工生命是指用计算机和精密机
械等生成或构造表现自然生命系统行为特点的仿真系统或模型系统。自然生命系统的行为特点
表现为自组织、自修复、自复制的基本性质,以及形成这些性质的混沌动力学、环境适应和进
化。在现实世界中,普遍地存在着各类复杂系统,一般认为,非线性、不稳定性、不确定性是
造成复杂性的根源。复杂事物只能照它复杂的面貌来理解。简单来说,“人工生命”是来研究
具有某些生命基本特征的人工系统。人工生命模型有足够强大的功能来获取复杂系统中更多的
认知。这种方式较之自然系统更容易被操纵、重复和精确控制实验。
研究“人工生命”的原因包括:
1、人工生命的研究可使我们更好地理解突发特征,个体在低级组织中的集合,通过我们
的相互作用,常可产生特征。