文章编号:1007—1423(2014)14—0008—04 DOI:10.39696.issn.1007—1423.2014.14.002 一种改进的粒子群算法稳定性证明及其应用 焦国辉 (太原师范学院计算机中心,太原03012) 摘要: 针对改进的粒子群算法缺乏理论上稳定性证明及其相应的参数选择问题.利用李雅普诺夫稳定性理论对个体决策粒 子群算法给予稳定性证明,并给出相应的参数选择方式,改变传统粒子群算法只能从仿真角度说明该算法的稳定性。 采用几个常用的测试函数进行仿真实验,与其他改进的粒子群算法相比,结果表明该算法具有更好的性能。 关键词: 粒子群算法:个体决策;李雅普诺夫函数;稳定性 基金项目: 国家自然科学基金(No.6097574)、国家青年科学基金(No.6103053) 0 引言 粒子群算法是一种基于群体智能的随机优化算 法川.由于其结构简单.运算速度快,且不需要领域知 法某一特性 本文通过李雅普诺夫稳定性理论对个体 决策粒子群算法给予了稳定性证明.并给出了相应的 参数选择方式.为以后其他改进粒子群算法稳定性证 识.一经提出便引起许多学者广泛的研究兴趣。现在已 经广泛应用于神经网络训练[21、模式识别网、多目标优化[43 等方面。粒子群算法提出以后,许多学者从收敛性、稳 定性等方面对标准粒子群算法进行了研究。Ozean和 M0han首次对标准粒子群算法从理论方面进行了分 析[51.Tre1ea对标准粒子群算法的收敛性进行了分析嘲. 明和参数选择提供一种思路。 1 个体决策粒子群算法 设P(m)=(pj(t-s),pi(t—s—1),…,pj(t))为粒子 从 s到t代的个体历史位置.把它对应的适应值按照大小 (P(m))=a唱max ( (m) =1,2,…,n)} 进行排序 为对应的最差粒子适应值。 (P(m))=arg min[f(Pi(m), =并在此基础上提出了该算法收敛性和稳定性较好时的 参数选择方式。M.1iang对标准粒子群算法进行了随机 1,2…n)}为对应的最优粒子适应值。则粒子/在第t 代的性能评价指标为: 收敛性分析【7J.证明了算法收敛的条件及参数选择范 围 J.L.Fem等证明粒子运动状态和停滞状态的稳定区 域是一样的恻 针对粒子群算法容易陷入局部最优这一 缺点.研究者提出了许多改进的算法,但是很少有人针 对改进的粒子群算法从理论上给出稳定性证明及参数 f1,if(f ̄ (P( )) (P( ))), 。 {\ 急 (P(f)) (P(t))’……… e 由式(1)可以看出在第t代中,历史适应值越优的 粒子,它的性能评价指标sc0 (f)越大,而历史适应值 越差的粒子,它的性能评价指标scorej(t)]gg.:b。性能评 价指标sco (£)主要由粒子自身的个体适应值来确定, 这就等于给各个粒子在t代的个体适应值进行了排序, 选择方式.只能从仿真实验中分析算法稳定性较好.从 经验中给出参数选择方式.即使有些学者针对标准粒 子群算法的收敛性及参数选择给予证明.也是针对算 @ 现代计算机2014.05中 使个体历史适应值越好的粒子性能越好,反之亦然。 下面步骤就是根据性能评价指标来确定权重。由于 决策个体的能力、经验、水平等方面的差异,隐藏他们 在决策过程中的作用是不同的,这种差异可以用决策 者的权重来表示: score(t) = ................ — ——...! !...... ..... —. ..............一 score1(f)¥cor ̄2(t)...¥COFe ( (2) e +e +…+e 决策后的个体历史最优位置为: P,gt):∑Uj ̄pj(t) (3) l 对照标准粒子群算法.个体决策粒子群算法的进 化方程可表示为: vjk(t+1)= wv,k(t)+c1rl(pm(t)-xj ̄(t))+c2r2(p (f)一xjk(t))(4) xik(t+1) (£) m(£+1) (5) 其中xik为粒子 的当前位置;vjk为粒子的当前速 度;Pjk为粒子 的最优位置,称为个体历史最优位置。 P 为全局历史最优位置。其中 =1,2,…,m,m为粒子 的个数, =1,2,…,n,凡为解空间的维数,t为粒子的当 前进化代数.w为惯性权重.具有平衡全局和局部搜索能 力的作用,介于『0,1]之间。c。与c:为学习因子,通常在 [0,21之间取值,c 具有调节粒子向自身最优位置靠近的 作用,C 具有调节粒子向群体历史最优位置靠近的作用, r广u(o,1),r ̄-U(O,1)为两个相互的随机数。 2 稳定性证明 由Lvapunov第二方法稳定性定义和定理 把个体 决策粒子群算法(4)与(5)从理论上进行了稳定性证明 及参数选择。若设: 1=c lrl, 2=c2r2, = 1+ 2 ! ‘ ( ) (t)-x (f—1)]十 [纽 监 。( )] 下面,将利用Lv印unov第二方法推导个体决策群 子算法的稳定性:取误差变量ei( ) (f)一PQ,并假设 保持不变,即 0。取Lyapunov函数(能量函数)。 ̄3i( ) T: e (f)ei( )对其求导,则有: Vi( )=[e (t)]re (t) =IX (t)-Pq] (t)-PQ] =Ix (t)兀 ( )一PQ] ={w[x (t)-x (t-1)]+ [尸: (t)] (t)-Pq] = (t)--X (t-1)兀 (t)-PQ3- ̄11 (t)ll 由范数定义: ≤Ilxll Ilyll,因此有: [筏(£) ;(£一1)]re (£)≤IIx (£) (£~1)llqle (t)ll 所以∞≤ 由此可以得出个体决策粒子群算法的稳定性条件 为: ,fi(Ilxi㈤ (t-i)I1>0) I【(tJ∈[0,1],otherwise 3 仿真实验 为了验证本文提出的个体决策历史适应值粒子群 算法(Particle Swarm Optimization based Individual De. cision History Fitness.PSO—IDHF)在稳定性条件下对函 数优化的性能,我们利用标准粒子群算法(Standard Particle Swarm Optimization.sPso)及带时间加速常数 的粒子群算法(Modified Particle Swarm Optimization with Time—varying Accelerator Coefifcients,MPSO—TVAC)进 行比较 为了测试PSO—IDHF在函数优化方面的性能.本 文选取了两个经典的测试函数进行测试 Rastrigin函数: fg ):∑ 一10 c。s(2 ̄rx )+10], 一5.12≤ ≤5.12,min ) (0,…,0)=0 Ackley函数: ( )=20+e-2Oexp(一0.2、/ ) -32 ̄<x ≤32,min ) (0,…,0)=O 现代计算机 2014.05中o 【4】吕艳萍,李绍兹.自适应扩散混合变异机制微粒群算[J].软件学报,2007,18(17):2740-2751 [5]MClerc.JKennedy.The Particle Swarm Explosion Stability,and Convergence in a Mutidimensional Complex Space[J].IEEE Transac— tions on Evolutionary Computation,2002,6(1):58~73 【6]Cristian Trelea.The Particle Swam Optrimization Algorithm:Convergence Analysis and Parameter Selection[J].Infomatrion Processing Letters,2003,85(6):317-325 【7】李宁,孙德宝等.基于差分方程的PSO算法粒子运动轨迹分析【JJ.计算机学报,2006,29(11):2052 ̄2061 『8]Fern and Mart The Generalized PSO:A New Door to PSO Evolution[J].Journal of Artiifcial Evolution and Applications,2008,15(3): 1 17~125. 【9】王高雄,周之铭,朱思铭,王寿松编.常微分方程【M】.高等教育出版社,2004 作者简介: 焦国辉(1984一),男,河南新乡人,硕士,研究方向为计算智能、剩余寿命预测 收稿El期:2014—04—08 修稿日期:2014—05—05 Provement and Application of the Stability of an I mproved Particle Swarm Optimization Algorithm JIA0 Guo—hui (Computer Centre,Taiyuan Normal University,Taiyuan 030012) Abstract: Considers the insufficient theoretical stability proof and parameter selection on improved Particle Swarm Optimization,uses Lyapunov sta— bility theory to improve individual decision PSO stability and gives the corresponding parameters selected methods,which changes the traditional PSO only.Uses several test functions to simulation,results show that the algorithm has a better performance than the other im— proved PSO. Keywords: PSO(Particle Swarm Optimization);Individual Decision;Lyapunov Function;Stability 曰 计笪木几 ,n1an 由tD