11.线性方程组的迭代法-雅可比、高斯塞德尔和超松弛迭代.ppt
- 文档编号:30861555
- 上传时间:2024-05-02
- 格式:PPT
- 页数:55
- 大小:779.50KB
11.线性方程组的迭代法-雅可比、高斯塞德尔和超松弛迭代.ppt
《11.线性方程组的迭代法-雅可比、高斯塞德尔和超松弛迭代.ppt》由会员分享,可在线阅读,更多相关《11.线性方程组的迭代法-雅可比、高斯塞德尔和超松弛迭代.ppt(55页珍藏版)》请在冰豆网上搜索。
我们知道,凡是迭代法都有一个收敛问题,有时某种方法对一类方程组迭代收敛,而对另一类方程组进行迭代时就会发散。
一个收敛的迭代法不仅具有程序设计简单,适于自动计算,而且较直接法更少的计算量就可获得满意的解。
因此,迭代法亦是求解线性方程组,尤其是求解具有大型稀疏矩阵的线性方程组的重要方法之一。
第六章解线性方程组的迭代法6.1迭代法的基本思想迭代法的基本思想是将线性方程组转化为便于迭代的等价方程组,对任选一组初始值,按某种计算规则,不断地对所得到的值进行修正,最终获得满足精度要求的方程组的近似解。
设非奇异,则线性方程组有惟一解,经过变换构造出一个等价同解方程组将上式改写成迭代式选定初始向量,反复不断地使用迭代式逐步逼近方程组的精确解,直到满足精度要求为止。
这种方法称为迭代法如果存在极限则称迭代法是收敛的,否则就是发散的。
收敛时,在迭代公式中当时,,则,故是方程组的解。
对于给定的方程组可以构造各种迭代公式。
并非全部收敛例1用迭代法求解线性方程组解构造方程组的等价方程组据此建立迭代公式取计算得迭代解离精确解越来越远迭代不收敛6.2雅可比与高斯-塞德尔迭代法6.2.16.2.1雅可比迭代法算法例2用雅可比迭代法求解方程组解:
从方程组的三个方程中分离出和建立迭代公式取初始向量进行迭代,可以逐步得出一个近似解的序列:
(k=1,2,)直到求得的近似解能达到预先要求的精度,则迭代过程终止,.以最后得到的近似解作为线性方程组的解。
当迭代到第10次有计算结果表明,此迭代过程收敛于方程组的精确解x*=(3,2,1)T。
考察一般的方程组,将n元线性方程组写成若,分离出变量据此建立迭代公式上式称为解方程组的Jacobi迭代公式。
6.2.2雅可比迭代法的矩阵表示设方程组的系数矩阵A非奇异,且主对角元素,则可将A分裂成记作A=D-L-U则等价于即因为,则这样便得到一个迭代公式令则有(k=0,1,2)称为雅可比迭代公式,B称为雅可比迭代矩阵雅可比迭代矩阵表示法,主要是用来讨论其收敛性,实际计算中,要用雅可比迭代法公式的分量形式。
即(k=0,1,2,)6.2.1雅可比迭代法的算法实现6.2.2高斯-塞德尔(Gauss-Seidel)迭代法高斯-塞德尔迭代法的基本思想在Jacobi迭代法中,每次迭代只用到前一次的迭代值,若每次迭代充分利用当前最新的迭代值,即在求时用新分量代替旧分量,就得到高斯-赛德尔迭代法。
其迭代法格式为:
(i=1,2,nk=0,1,2,)例例3用用GaussSeidel迭代格式解方程组迭代格式解方程组精确要求为精确要求为=0.005=0.005解解GaussGaussSeidelSeidel迭代格式为迭代格式为取初始迭代向量取初始迭代向量,迭代结果为:
迭代结果为:
x*GaussSeidel迭代法的矩阵表示将A分裂成A=D-L-U,则等价于(D-L-U)x=b于是,则高斯塞德尔迭代过程因为,所以则高斯-塞德尔迭代形式为:
故令定义:
设1.如果A的元素满足称A为严格对角占优阵严格对角占优阵。
2.如果A的元素满足且至少一个不等式严格成立,称A为弱对角占优阵弱对角占优阵。
6.2.3雅可比和高斯-塞德尔迭代收敛性定义:
设如果存在置换矩阵P,使得其中,A11为r阶方阵,A22为n-r阶方阵(),则称A为可约矩阵可约矩阵,否则称A为不可约矩阵不可约矩阵。
定理9:
设如果1)A为为严严格格对对角角占占优优阵阵,则则雅雅可可比比和和高高斯斯-塞塞德德尔迭代法均收敛;尔迭代法均收敛;2)A为为弱弱对对角角占占优优阵阵,且且A为为不不可可约约矩矩阵阵,则则雅雅可比和高斯可比和高斯-塞德尔迭代法均收敛。
塞德尔迭代法均收敛。
定理10:
设矩阵A对称,且1)雅雅可可比比迭迭代代法法收收敛敛的的充充要要条条件件:
A和和2D-A均均为为正定矩阵,其中正定矩阵,其中D=diag(A););2)高斯)高斯-塞德尔迭代法收敛的充分条件:
塞德尔迭代法收敛的充分条件:
A正定。
正定。
6.3超松弛迭代法(SOR方法)使用迭代法的困难在于难以估计其计算量。
有时迭代过程虽然收敛,但由于收敛速度缓慢,使计算量变得很大而失去使用价值。
因此,迭代过程的加速具有重要意义。
逐次超松弛迭代(SuccessiveOverrelaxaticMethod,简称SOR方法)法,可以看作是带参数的高斯塞德尔迭代法,实质上是高斯-塞德尔迭代的一种加速方法。
6.3.1超松弛迭代法的基本思想超松弛迭代法目的是为了提高迭代法的收敛速度,在高斯塞德尔迭代公式的基础上作一些修改。
这种方法是将前一步的结果与高斯-塞德尔迭代方法的迭代值适当加权平均,期望获得更好的近似值。
是解大型稀疏矩阵方程组的有效方法之一,有着广泛的应用。
其具体计算公式如下:
用高斯塞德尔迭代法定义辅助量。
把取为与的加权平均,即合并表示为:
式中系数称为松弛因子,当=1时,便为高斯-塞德尔迭代法。
为了保证迭代过程收敛,要求02。
当01时,低松弛法;当12时称为超松弛法。
但通常统称为超松弛法(SOR)。
6.3.2超松弛迭代法的矩阵表示设线性方程组Ax=b的系数矩阵A非奇异,且主对角元素,则将A分裂成A=d-L-U,则超松弛迭代公式用矩阵表示为或故显然对任何一个值,(D+L)非奇异,(因为假设)于是超松弛迭代公式为令则超松弛迭代公式可写成例例4用用SOR法求解线性方程组法求解线性方程组取取=1.46,要求,要求解:
SOR迭代公式k=0,1,2,,初值该方程组的精确解只需迭代20次便可达到精度要求如果取=1(即高斯塞德尔迭代法)和同一初值,要达到同样精度,需要迭代110次6.3.2迭代法的收敛性迭代法的收敛性我们知道我们知道,对于给定的方程组可以构造成对于给定的方程组可以构造成简单迭代公式、雅可比迭代公式、高斯简单迭代公式、雅可比迭代公式、高斯-塞德塞德尔迭代公式和超松弛迭代公式,但并非一定尔迭代公式和超松弛迭代公式,但并非一定收敛。
现在分析它们的收敛性。
收敛。
现在分析它们的收敛性。
对于方程组对于方程组经过等价变换构造出的等价方程组经过等价变换构造出的等价方程组在什么条件下迭代序列在什么条件下迭代序列收敛?
收敛?
基本定理基本定理55迭代公式迭代公式收敛收敛的的充分必要条件充分必要条件是迭代矩阵是迭代矩阵G的谱半径的谱半径证:
必要性设迭代公式收敛,当k时,则在迭代公式两端同时取极限得记,则收敛于0(零向量),且有于是由于可以是任意向量,故收敛于0当且仅当收敛于零矩阵,即当时于是所以必有充分性充分性:
设设,则必存在正数则必存在正数,使使则存在某种范数则存在某种范数,使使,则则,所以所以,即即。
故。
故收敛于收敛于0,收敛于收敛于由此定理可知,不论是雅可比迭代法、高斯由此定理可知,不论是雅可比迭代法、高斯塞德尔迭代法还是超松弛迭代法,它们收敛的塞德尔迭代法还是超松弛迭代法,它们收敛的充要条件是其迭代矩阵的谱半径充要条件是其迭代矩阵的谱半径。
事实上事实上,在例在例1中中,迭代矩阵迭代矩阵G=,其特征多项式为其特征多项式为,特征值为特征值为-2,-3,,所以迭代发散所以迭代发散定理定理6(6(迭代法收敛的充分条件迭代法收敛的充分条件)若迭代矩阵若迭代矩阵GG的一种范数的一种范数,则迭代公式则迭代公式收敛收敛,且有误差估计式且有误差估计式及及证证:
矩阵的谱半径不超过矩阵的任一种范数矩阵的谱半径不超过矩阵的任一种范数,已知已知,因此因此,根据定理根据定理4.94.9可知可知迭代公式收敛迭代公式收敛又因为又因为,则则det(I-G)0,I-G为非奇异矩阵为非奇异矩阵,故故xGxd有惟一解有惟一解,即即与迭代过程与迭代过程相比较相比较,有有两边取范数两边取范数由迭代格式,有由迭代格式,有两边取范数,代入上式,得两边取范数,代入上式,得证毕证毕由定理知,当由定理知,当时,其值越小,迭代时,其值越小,迭代收敛越快,在程序设计中通常用相邻两次迭代收敛越快,在程序设计中通常用相邻两次迭代(为给定的精度要求)作为为给定的精度要求)作为控制迭代结束的条件控制迭代结束的条件例例55已知线性方程组已知线性方程组考察用考察用JacobiJacobi迭代和迭代和G-SG-S迭代求解时的收敛性迭代求解时的收敛性解解:
雅可比迭代矩阵雅可比迭代矩阵故故JacobiJacobi迭代收敛迭代收敛将系数矩阵分解将系数矩阵分解则高斯则高斯-塞德尔迭代矩阵塞德尔迭代矩阵故高斯故高斯塞德尔迭代收敛。
塞德尔迭代收敛。
33例例:
给出方程组:
给出方程组其中其中问问:
分别利用分别利用Jacobi迭代法和迭代法和Gauss-Seidel迭代法是否收敛迭代法是否收敛.解:
解:
对对而而即即所以,对所以,对Jacobi方法收敛,方法收敛,G-S方法发散方法发散同理,对于同理,对于其中其中即得而则所以,对Jacobi方法发散,G-S方法收敛.说明,说明,Jacobi方法和方法和G-S方法的收敛条件方法的收敛条件大多数是互不包含的大多数是互不包含的.定理定理1212对于线性方程组AxAx=bb,若AA为对称正定矩阵,则当02时,SOR迭代收敛.证明证明只需证明1(其中为L的任一特征值).定理定理1313对于线性代数方程组Ax=b,若A按行(或列)严格对角占优,或按行(或列)弱对角占优不可约;则当0w1时,SOR迭代收敛。
例例6设设,证明证明,求解方程组求解方程组的的JacobiJacobi迭代与迭代与G-SG-S迭代同时收敛或发散迭代同时收敛或发散证证:
雅可比迭代矩阵雅可比迭代矩阵其谱半径其谱半径例例6设设,证明证明,求解方程组求解方程组的的JacobiJacobi迭代与迭代与G-SG-S迭代同时收敛或发散迭代同时收敛或发散证证:
G-S:
G-S迭代矩阵迭代矩阵其谱半径其谱半径显然显然,和和同时小于、等于或大于同时小于、等于或大于1,1,因而因而JacobiJacobi迭代法与迭代法与G-SG-S迭代法具有相同的收敛性迭代法具有相同的收敛性例例7考察用考察用雅可比迭代法和雅可比迭代法和高斯高斯-塞德尔迭代塞德尔迭代法解线性方程组法解线性方程组Ax=bAx=b的收敛性,其中的收敛性,其中解:
解:
先计算迭代矩阵先计算迭代矩阵求特征值求特征值雅可比矩阵雅可比矩阵(B)=01)=21用高斯用高斯-塞德尔迭代塞德尔迭代法求解时,迭代过程发散法求解时,迭代过程发散高斯高斯-塞德尔迭代矩阵塞德尔迭代矩阵求特征值求特征值Ax=b的系数矩阵按行严格对角占优的系数矩阵按行严格对角占优,故故高斯高斯-塞德尔迭代收敛塞德尔迭代收敛例例9设有迭代格式设有迭代格式X(k+1)=BX(k)+g(k=0,1,2)其中其中B=I-A,如果如果A和和B的特征值全为正数,的特征值全为正数,试证:
该迭代格式收敛。
试证:
该迭代格式收敛。
分析:
根据A,B和单位矩阵I之间的特征值的关系导出()1,从而说明迭代格式收敛。
证:
因为B=I-A,故(B)=(I)-(A)=1-(A)(A)+(B)=1由于已知(A)和(B)全为正数,故0(B)1,从而(B)1所以该迭代格式收敛。
当当aa11时时,Jacobi矩阵矩阵GGJJ1,1,对初值对初值xx(0)(0)均收敛均收敛例例10设设方程组方程组写出解方程组的写出解方程组的Jacobi迭代公式和迭代矩阵迭代公式和迭代矩阵并讨论迭代收敛的条件。
并讨论迭代收敛的条件。
写出解方程组的写出解方程组的Gauss-Seidel迭代矩阵迭代矩阵,并讨并讨论迭代收敛的条件。
论迭代收敛的条件。
解解Jacobi迭代公式和迭代公式和Jacobi矩阵分别为矩阵分别为例例10设设方程组方程组写出解方程组的写出解方程组的Gauss-Seidel迭代矩阵,并讨论迭代矩阵,并讨论迭代收敛的条件。
迭代收敛的条件。
解解Gauss-Seidel矩阵为矩阵为当时当时aa11时时,Gauss-Seidel,Gauss-Seidel矩阵矩阵GGss1,1,所以对任意初值所以对任意初值xx(0)(0)均收敛。
均收敛。
也可用矩阵的谱半径也可用矩阵的谱半径p(GS)1来讨论来讨论解:
解:
先计算迭代矩阵先计算迭代矩阵例例11讨论用讨论用雅可比迭代法和雅可比迭代法和高斯高斯-塞德尔迭代塞德尔迭代法解线性方程组法解线性方程组Ax=bAx=b的收敛性。
的收敛性。
求特征值求特征值雅可比矩阵雅可比矩阵(B)=1用用雅可比迭代法求解时,迭代过程不收敛雅可比迭代法求解时,迭代过程不收敛1=-1,2,3=1/2求特征值求特征值高斯高斯-塞德尔迭代矩阵塞德尔迭代矩阵(G1)=0.35361用用高斯高斯-塞德尔迭代塞德尔迭代法求解时,迭代过程收敛法求解时,迭代过程收敛1=0,求解求解AX=b,AX=b,当当取何取何值时迭代收敛?
值时迭代收敛?
解解:
所给迭代公式的迭代矩阵为所给迭代公式的迭代矩阵为例例1212给定线性方程组给定线性方程组AX=bAX=b用迭代公式用迭代公式XX(K+1)(K+1)=X=X(K)(K)+(b-A(b-AXX(K)(K)(k=0,1,)(k=0,1,)即即2-(2-5)+1-5+4+422=0=02-(2-5)+(1-)(1-4)=0)=0-(1-)-(1-4)=0=01=1-2=1-4(B)=max|1-|,|1-4|1取取01/21/2迭代收敛迭代收敛本章小结本章小结本章介绍了解线性方程组本章介绍了解线性方程组迭代法的迭代法的一些基本理论和具体方法。
迭代法是一种逐次逼一些基本理论和具体方法。
迭代法是一种逐次逼近的方法,即对任意给定的初始近似解向量,按近的方法,即对任意给定的初始近似解向量,按照某种方法逐步生成近似解序列,使解序列的极照某种方法逐步生成近似解序列,使解序列的极限为方程组的解。
注意到在使用迭代法限为方程组的解。
注意到在使用迭代法解方程组时,其迭代矩阵解方程组时,其迭代矩阵BB和迭代向量和迭代向量ff在计算过在计算过程中始终不变程中始终不变,迭代法具有循环的计算公式迭代法具有循环的计算公式,方法方法简单,程序实现方便,它的优点是能充分利用系简单,程序实现方便,它的优点是能充分利用系数的稀疏性数的稀疏性,适宜解大型稀疏系数矩阵的方程组。
适宜解大型稀疏系数矩阵的方程组。
迭代法不存在误差累积问题。
使用迭代法的迭代法不存在误差累积问题。
使用迭代法的关键问题是其收敛性与收敛速度,收敛性与迭代关键问题是其收敛性与收敛速度,收敛性与迭代初值的选取无关,这是比一般非线性方程求根的初值的选取无关,这是比一般非线性方程求根的优越之处。
在实际计算中,判断一种迭代格式收优越之处。
在实际计算中,判断一种迭代格式收敛性较麻烦,由于求迭代的谱半径时需要求特征敛性较麻烦,由于求迭代的谱半径时需要求特征值,当矩阵的阶数较大时,值,当矩阵的阶数较大时,.特征值不易求出,通特征值不易求出,通常采用矩阵的任一种范数都小于常采用矩阵的任一种范数都小于11或对角占优来判或对角占优来判断收敛性。
有时也可边计算边观察其收敛性。
如断收敛性。
有时也可边计算边观察其收敛性。
如何加快迭代过程的收敛速度是一个很重要的问题何加快迭代过程的收敛速度是一个很重要的问题,实用中更多的采用,实用中更多的采用SORSOR法,选择适当的松驰因子法,选择适当的松驰因子有赖于实际经验。
我们应针对不同的实际问题有赖于实际经验。
我们应针对不同的实际问题,采用适当的数值算法。
,采用适当的数值算法。
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 11. 线性方程组 迭代法 可比 高斯塞德尔 松弛