求解复杂非线性方程组的新方法 - 范文中心

求解复杂非线性方程组的新方法

09/26

ComputerEngineeringandApplications计算机工程与应用

2009,45(28)41

求解复杂非线性方程组的新方法

阳万安,曾安平

YANGWan-an,ZENGAn-ping

宜宾学院计算机与信息科学系,四川宜宾644000

]DepartmentofComputerE—mail:ywaly@126.com

andInformationScienceJYibinUniversity,Yibin,Sichuan

644000,China

YANG

Wan—an,ZENG

An-ping.New

methodofsolvingcomplicatednonlinearequationgroup.ComputerEngineeringand

Applications,2009,4s(zs):41-42.

Abstract:AnumedcequivalentlyconsideringefficiencyisKey

changed

methodofsolvingnonlinearequation

to

groupisproposed.Theproblemofsolvingthen

nonlinearequationgroupis

particle

swarmoptimization,

the

problem

offunction

optimization,and

solutionisobtainedsolution

by

can

it鹊the

improved.

initialguessof

Levenberg-Marquardtalgorithm,amore

accuratebe

obtained。asresult,time

words:nonlinearequationgroup;particleswarmoptimization;initialguess;Levenberg-Marquardt(LM)algorithm

摘要:提出了一种求解非线性方程组的数值方法,将求解非线性方程组的解转化为函数优化问题,应用粒子群优化算法求出一个近似解,将此解作为初始猜测值,进一步应用Levenberg—Marquardt(LM)算法求得更高精度的解,提高了时间效率。关键词:非线性方程组;粒子群优化;初值;kveIlberg—Marquardt算法DOI:10.3778/j.issn.1002,8331.2009.28.012

文章编号:1002—8331(2009)28—0041-02文献标识码:A中图分类号:TP301.6

1引言

方程组的求解是数值代数的基本问题之一,许多工程应用

和科学计算问题最后都要求解方程组,因此,对方程组的解法的研究具有重要的意义。方程组可以分为线性方程组和非线性方程组。该问题的传统解法主要有牛顿法、迭代法、梯度法、共轭方向法,以及进化算法如PSO算法等。传统方法求解精度高,但对方程组具有较高的特性要求,比如要求方程组连续可微,同时求解的时候需要一个初始猜测值,初始猜测值的好坏严重影响最后的解,如何确定好的初值是困难的。进化算法取消了对方程组的特性要求,只需要在变量的区间随机产生一个初值,这使得它在许多优化问题中得到成功运用,进化算法可以通过提高群规模和迭代次数来改善精度,其求解时间与迭代次数成正比,时间效率明显下降。工程应用中,对求解的时间和精度两者都有很高的要求。因此,单用传统算法或者进化算法都难同时满足这两个要求,为此,先用PSO算法以较少的迭代次数求得解,将其作为初始猜测值,再用LM算法进一步搜寻解,这样能同时满足解的精度和求解时间的要求。

的最好位置就是粒子本身找到的最优解,称为个体极值(pBest);整个群体经历过的最好位置就是整个群体目前找到

的最优解,称为全局极值(gBest)。实际应用中是通过优化问题

所决定的适应度值(fitnessvalue)来评价粒子的“好坏”程度。

每个粒子都通过上述两个极值不断地更新自己,从而产生新一

代的群体。

如果粒子的群体规模为Ⅳ,则第i(i=l,2,…,Ⅳ)个粒子的位置可表示为置,它所经历过的最好位置记为pBest[i1,它的速度用K表示,群体中当前“最好”的位置用gnest表示。所以第i个粒子将根据下面的公式来更新自己的速度和位置:

E=wxV,+c1×rlx(pBest[i]-Xi)+c2xr2x(gBest-Xi)

(1)

鼯硌II,

(inertia

weight

(2)

其中r。、r2是【0,1l上的随机数;c。、c:为学习因子;埘为惯性权重

o另外,粒子在不断根据速度调整自己的位置的

时候,还要受到最大速度y。的限制,当K>y一时,将被限定

为y。。PSO算法的核心就在于微粒的速度和位置的更新公式

(1)、(2),公式中参数的取值对算法的收敛性和收敛速度有很大的影响,尤其是惯性权重加的取值影响最大,W取值越大,则

2求解非线性方程组的PSO和LM算法

PS0算法最早是由JamesKennedy和RussellEberhart共同提出的【1】,源于对鸟群捕食行为的研究。PSO算法中的每个粒子就是解空间中的—个解,它根据自己的飞行经验和同伴的

收敛速度越慢,但越不容易局限于局部最优解,加取值越小,收

敛速度越快,但越容易收敛到局部最优解。

LM算法是高斯一牛顿法的改进形式【2】,既有高斯一牛顿法

的局部特性又具有梯度法的全局特性。由于利用了近似的二

阶导数信息,LM算法比梯度法快得多,适合解决非线性最小

ofChinaunderGrant

飞行经验来调整自己的飞行。每个粒子在飞行过程中所经历过

基金项日:四川省教育厅基金(theFundof

Department

ofEducationofSichuanProvince

No.2006C047)。

作者简介:阳万安(1977一),男,博士,讲师,主要研究领域为人工智能和分布式技术;曾安c-3z,讲师,主要研究领域为数据挖掘。

收穑13期:2009—03—26

傣lul13期:2009—05一18

42

2009.45(28)Computer

EngineeringandApplications计算机工程与应用

步骤3;

步骤8将P,作为LM算法的初始猜测值,进一步求式(3)的解,所得为最终解。

二乘问题。

问题的转化

对于非线性方程组∽(戈-,髫:,…,xn)=o恤(菇l,X2,…,‰)---o

,^、

5数值仿真实验

u’

为了比较计算精度,定义误差:

厂i——————一

D二(并I,髫2,…,菇。)=0

式中,筋为所要求解的n个未知实变量,后为定义在m维欧氏空间中的实值函数。为了便于用微粒群算法求解,将问题(3)转

肚\/∑(气叫。)2

(5)

‘=l

其中,17,为方程组中未知数的个数,‰为未知数的计算结果,‰为未知量的真值。设置如下:

c1=1.4962学习因子1c2=1.496w=0.729N=100

化为等价的函数优化问题

三,

Min

根据上述算法用Matlab7.0编制程序,PS0算法主要参数

(4)

P(x)=艺Z‘(菇。,并:,…,%)

求解方程组(3)就转化为求—组值r(菇,,X2,…,吒)使得p(r)=0成立,即求使函数尸(x)取得最小值0的一组数。微粒群体在

2学习因子28惯性权重

初始化群体个体数目

定义的搜索区域内移动,每个粒子的位置代表方程组的候选

解,适应值函数为式(4),把微粒的位置带入适应值函数来评估微粒的质量,若迭代次数等于预先给出的最大次数,就结束PSO迭代;若小于最大迭代次数,每个微粒根据它自己的经历和邻域微粒的经历,以及目前循环中每个微粒和邻域微粒分别得到的最好位置来调节它的位置,直到到达最大迭代次数。同时,式(4)也是一个最小二乘问题,也适合用LM算法求解,用

实验选择了下面3个方程组,测试的方程组是文献【3佣到的。

算2+^:2—3---0

例1

髫2+严概”《咿一5=0

苒+v+z一3---0

茗,Y,Z-∈【-1.732,1.732】

曾中f一5xyz一85=0

PSO算法的结果作为LM算法的初值进一步搜寻更高精度的

解,比单独用IX50算法求得同样精度的解节约时间。

例2

叠—中—蕾一60=0

管+矿—Y一2=0

髫E[-2,5】,YE[-1,4】,:∈[O,2】

4算法步骤

算法流程如下:

步骤1初始化设置闭j种群规模为Ⅳ,随机初始化各个粒子的位置X和速度K,设定最大进化代数maxDT;

步骤2设置每个粒子目前最优位置为只=墨,并记ps=

maxPi为全局最优位置;

并+,卜一2z=0

例3

xy-1--O

菇t¨2-2=0

髫,Y,z∈【-2,2】

表l是对这3个方程组分别求解50次的实验结果。从求解结果可以看出,用PS0和LM算法联合求解比单独使用PS0算法求解消耗的时间更少获得的精度更高。因为PS0算法消耗的时间与最大进化代数成正比,设法降低PS0算法求解阶段的最大迭代次数,可以节约较多时间,并得到近似解,将此解作为初始猜测值,然后使用效率更高的LM算法求更高精度的解,消耗的总时间就减少。

步骤3计算每个粒子的适应度值(廓忧ss);

步骤4对每—个粒子置更新个体最优位置只;步骤5将每个粒子的最优位置只与n比较,更新Pg;步骤6根据PSO迭代公式(1)、(2)分别对群体进行更新;

步骤7当进化代数等于maxDT停止迭代,输出肌,否则转

表1实验结果

求解次数(a)例1

图l

求解次数(b)例2

PSO+LM最终求解结果与PSO阶段求解结果对比

求解次数(c)例3

(下转47页)

李鸿:粒计算的四面体模型

【2】Zadeh

2009,45(28)47

A.Fuzzy

sets

andinformation

granularity[M]//GupmM,

2005,1:85~90.

RagadeR,Yager

R.AdvancesinFuzzySetTheoryandAppliea—

tions.North—Holland:Amsterd8m。1979:3-18.【3】3

ZadehLA.Someandtheirroles

in

【17】YaoYY.Granularcomputing[C]//SpecialTransactioninthe4th

ChineseNationalConferenceonRoughSetsandSoftComputing

(CRSSC’2004),Zhoushan,Zhejiang,China,Oct25-28,2004.【18】YaoYY.Human-inspiredgranulareomputing[M]//YaoJT.Novel

Developments

in

Granular

Computing:Applicationsfor

reflections

on

softcomputing,granularcomputing

andutilizationofinfor-

theconception,design

mation/intelligentlag,1998:23—25.

systems[M]//SoftComputing.Berlin:Springer-Ver-Advanced

【41林旱阳粒计算的数学漠型与研究方向愀计算:过去、现在和展望.

北京:科学出版社,2007:127—141.

【5】PawlakZ.Roughsets[J].InternationalJoumalofInformationand

ComputerSciences。1982,11:341-356.

HumanReasoningandSoftComputation,2008.

[19】YaoYY.Integrativelevelsofgranularity[M]//BargielaA,Pedrycz

W.Human-CentrieInformationProcessingThlmughGranularMed-

elling,2008.

[20】Yao

computing[C]//Proeeedings

RoughSet

Per-

YY.Granular

computing:Past,presentandfuture【C]//2008

on

【6】YaoYY.Three

perspectives

on

ofgranular

IEEEInternationalConference

GranularComputing,2008:80-85.

oftheInternationalForumspective,Journal

of

Theory

ofGrCfrom

of

【21】YanY.ArtificialinteNigence

on

perspectives

ItS

on

granular

eomput—

Nanchang

Institute

Technology,Nanchang,

ing[C]//RSCTC2008,Panel

KDD.

andSCChallengesinAIand

China,2006,25(2):16—21.

阴张钹.基于商空间理论的多粒度计算[c]//第7届中国Rough集与软

计算,第1届中国Web智能,第1届中国粒计算联合会议论文集,

太原,2007.

【8】YaoYY.Aunifiedframeworkofgranularcomputing[M]//Pedrycz

W,Skowron

A,Kreinovich

【22】Yao

Y.11leriseofgranularcomputing[J].JournalofChongqing

UniversityofPostsandTelecommunications:NaturalScienceEdi—

tion。2008,20(3):299—308.

V.HandbookofGranularComputing.[S.1.】:

[23】张文修,徐伟华.基于粒计算的认知模型【J】.工程数学学报,2007,

24(6):957—971.

【24】ShiZZ.Tolerancerelationbasedgranularcomputingmodel[C]//

Wiley,2008:401--410.

【9】9张铃,张钹.模糊商空间理论(模糊粒度计算方法)阴.软件学报,

’2003.14(4):770—776.

The

2005IEEEInternationalConference

on

GranularComput-’

【10]黄正华,胡宝清.模糊粗糙集理论研究进展【J】.模糊系统与数学,

2005。19(4):125—134.

【11】DuboisD,PradeH.Roughfuzzy

sets

ing,Beijing,China,2005.

【251郑征.相容粒度空问模型及其应用研究【D】.北京:中国科学院计算

技术研究所,2006.

andfuzzyroughsets[J].Inter-

nationalJournalofGeneralSystems,1990,17:91-109.

f26】谢克明,逯新红,陈泽华.粒计算的基本问题和研究L玎.计算机工程

与应用,2007。43(16):4l—44.

a8

【12】GrecoS,MatarazzoB,SlowifiskiR.Fuzzysimilarityrelation

basisfor

ranshapproximations[C]//BSCTC’98.Heidelberg:Springer

[27】王国胤,张清华,胡军.粒计算研究综述m.智能系统学报,2007,2

(6):8-26.

Verlag,1998.

[13】BedzikowskaAM,KerreeE.Acomparativestudyoffuzzyrough

舶t8【J1.FuzzySetsandSystems,2002,126:137-155.【14]YaoYY.The

ternational

art

128】李鸿.粒集及其描述fJl.宿州学院学报,2006,21(1):90-93.【29】李鸿.粒集理论:粒计算的新模型【J】.重庆邮电大学学报,2007,.19

(4):397—404.

of

granularcomputing[C】,/ProceedingoftheIn—

on

Conference

Rough

Setsand

EmergingIntelligent

【30】李鸿.粒集的扩展与提升fJl.计算机科学,2008,35(8A):234—236.【3l】李鸿.粒集的提升及其描述们.宿州学院学报,2008,23(5):96—98.

【32】U

H.Concept

granular

system

SystemsParadigms。LNAI4585.2007:101一112.

【15】姚一豫.粒计算的艺术[M]//gt计算:过去、现在和展望.北京:科学

出版社,2007:1-20.

【161YaoYY.Perspectivesofgranularcomputing[Cl//The2005IEEE

InternationalConferenceonGranularComputing,Beijing,China,

and

granularconcept

lattice【C∥

WangGuo-jun.ProceedingsofThe9thInternationalConference

forYoungComputerScientists,ICYCS2008.LosAlamitos,Califor-nia.USA:IEEE

CompuerSocietyCPS,2008:1860-1865.

(上接42页)

图1(a)(b)(c)分别显示了例1、例2和例3用PSO+LM算法求解50次的最终结果和第一阶段PSO求解结果。图中“o”表示第一阶段PSO求解的误差,“∥表示PSO+LM求解结果的误差。可以看出在大多数情况下,进一步用LM算法求解提高了解的精度。

参考文献:

[1】KennedyJ,EberhartR.Particle

IEEE1948.

InternationalConference

swarm

on

optimization[C]//Proceedingof

Networks,1995,4:1942—

Neural

【2】LourakisMIA.Abriefdeseri【ptionoftheLevenberg-Marquardt

algorithmimplementedbylevrnar[J].InstituteofComputerScience

FoundationforResearch

andTechnology,Crete,Greece,2005.

【3】郭海燕,金鑫,胡小兵.基于微粒群优化的非线性方程组求解研

5讨论

提出了求解非线性方程组的PSO+LM算法。不需要限制方程组形式、不需要方程组连续可微。克服了单独使用PSO算法时间消耗过多,单独使用LM算法初值选择困难的问题,求解结果的精度很高。该方法可以应用到对实时性和精度I司时要求都很高的系统中。

究[J】.计算机工程与应用,2006,42(15):72—74.

【4】张建科,王晓智,刘三阳,等.求解非线性方程及方程组的粒子群算

法m.计算机工程与应用。2006,42(7):56—58.

【5】孙明杰,陈月霞,胡倩.求解奇异非线性方程组的粒子群优化算

法(JJ黑龙江科技学院学报,2006,16(6):369—373.

【6】林川,冯全源.一种新的自适应粒子群优化算法【J】.计算机工程,

2008.34(7):181-183.


相关内容

  • 有限元法介绍
    有限元法介绍 周宇 [1**********]02 12机制(1)班 理论研究.科学实验以及计算分析是人们进行科学研究和解决实际工程问题的重要手段,随着计算机技术及数值分析方法的发展,以有限元方法为代表的数值计算技术得到越来越广泛的应用. ...
  • 非线性方程组的求解
    非线性方程组的求解 摘要:非线性方程组求解是数学教学中,数值分析课程的一个重要组成部分,作为一门学科,其研究对象是非线性方程组.求解非线性方程组主要有两种方法:一种是传统的数学方法,如牛顿法.梯度法.共轭方向法.混沌法.BFGS法.单纯形法 ...
  • 算法大全第15章常微分方程的解法
    第十五章 常微分方程的解法 建立微分方程只是解决问题的第一步,通常需要求出方程的解来说明实际现象,并加以检验.如果能得到解析形式的解固然是便于分析和应用的,但是我们知道,只有线性常系数微分方程,并且自由项是某些特殊类型的函数时,才可以肯定得 ...
  • 20世纪十大算法
    20世纪十大算法 本世纪初,美国物理学会(AmericanInstitute of Physics)和IEEE计算机社团(IEEE Computer Society)的一本联合刊物<科学与工程中的计算>发表了由田纳西大学的Jac ...
  • [线性代数.积分变换]课程教学大纲
    <线性代数.积分变换>课程教学大纲 课程代码: __12208__________________ 课程名称:线性代数.积分变换 英文名称: Lineay Algebra Integral Transforms 课程总学时:28 ...
  • 用matlab实现线性常系数差分方程的求解
    数字信号处理课程设计 题目: 试实现线性常系数差分方程的求解 学院: 专业: 班级: 学号: 组员: 指导教师: 题目:用Matlab 实现线性常系数差分方程求解 一. 设计要求 1. 2. 3. 掌握线性常系数差分方程的求解 熟练掌握Ma ...
  • 第二章 迭代法的一般原理
    第二章 迭代法的一般原理 非线性方程组无论从理论上还是计算方法上,都比线性方程组复杂得多.一般的非线性方程组很难求出解析解,往往只能求出其数值解,且往往只能借助于迭代法.本章我们将讨论迭代法的一般原理.迭代法的一般构造及迭代收敛速度的衡量标 ...
  • CFD仿真
    3.1气体泄漏扩散的模拟方法 目前在研究气体扩散领域应用较多的模拟方法主要有三种,即:物理模拟方法. 数学模拟方法和CFD 数值模拟方法.当然在实际的模拟仿真过程中,经常是两种或是三种方法同时使用,以此来验证模拟的准确性. 3.1.1物理模 ...
  • 计算材料计算BN的弹性常数
    湖南工业大学 课 程 设 计 资 料 袋 学院(系.部) 学年第学期 课程名称 计算材料学 指导教师 雷军辉 职称 讲师 学生姓名 余晓燕 专业班级 应用物理081班 学号 [1**********] 题 目 计算BN 的弹性常数 成 绩 ...
  • 几种可降阶的三阶变系数齐次线性微分方程类型
    2007年 3 月 Journal of Science of Teachers′College and University Mar. 2007 文章编号:1007-9831(2007)02-0001-02 几种可降阶的三阶变系数齐次 线 ...