关于项目
数值方法地区

§3.2线性代数

目录
  1. §3.2(i)高斯消去
  2. §3.2(ii)三对角矩阵的高斯消去
  3. §3.2(iii)线性系统的条件
  4. §3.2(iv)特征值和特征向量
  5. §3.2(v)特征值条件
  6. §3.2(vi)对称矩阵的Lanczos三对角化
  7. §3.2(vii)特征值计算

§3.2(i)高斯消去

解决系统问题

3.2.1 𝐀𝐱=𝐛,

使用高斯消去法,其中𝐀是非奇异的n个×n个矩阵和𝐛是一个n个×1向量,我们从增广矩阵

3.2.2 [111n个b条1n个1n个n个b条n个].

通过反复从后续行中减去每行的倍数,我们获得该形式的矩阵

3.2.3 [单位11单位12单位1n个10单位22单位2n个200单位n个n个n个].

在此还原过程中,我们存储乘法器 jk那个在每列中使用,以消除该列中的其他元素。这就产生了下三角矩阵表单的

3.2.4 𝐋=[1002110n个1n个,n个11].

如果我们用𝐔上三角矩阵包括元素单位jk英寸(3.2.3),然后进行因子分解,或者三角分解,

3.2.5 𝐀=𝐋𝐔.

使用𝐲=[1,2,,n个]T型溶液的过程可以然后被视为首先求解方程𝐋𝐲=𝐛对于𝐲(向前地消除),然后是𝐔𝐱=𝐲对于𝐱(反向替换).

有关更多详细信息,请参阅Golub和Van Loan(1996第87–100页).

例子

3.2.6 [122112]=[10021051][120150018].

在解决中𝐀𝐱=[1,1,1]T型,我们通过转发获得消除𝐲=[1,1,]T型和通过回代𝐱=[16,16,16]T型.

实际上,如果任何乘数jk量级与单位相比,则高斯消去是不稳定的。为了避免不稳定性在每个消除步骤中,行以这样的方式互换用作除数的元素的绝对值枢轴元件,不小于中其他可用元素的值它的列。然后|jk|1在所有情况下。此修改是打电话部分旋转高斯消去.

有关旋转的详细信息,请参见Golub和Van Loan(1996第109-123页).

迭代优化

当因子分解(3.2.5)可用计算的解决方案𝐱可以用很少的额外计算来改进。由于舍入错误剩余向量 𝐫=𝐛𝐀𝐱通常为非零。我们解决系统问题𝐀𝛿𝐱=𝐫对于𝛿𝐱,利用现有的三角分解属于𝐀以获得改进的解决方案𝐱+𝛿𝐱.

§3.2(ii)三对角矩阵的高斯消去

三对角矩阵只有非零元素出现在主对角线和两条相邻对角线上。因此

3.2.7 𝐀=[b条1c(c)102b条2c(c)2n个1b条n个1c(c)n个10n个b条n个].

假设𝐀可以按以下方式计算(3.2.5),但是没有部分旋转。然后

3.2.8 𝐋=[100210n个1100n个1],
3.2.9 𝐔=[d日1单位100d日2单位20d日n个1单位n个100d日n个],

哪里单位j=c(c)j,j=1,2,,n个1,d日1=b条1、和

3.2.10 j =j/d日j1,
d日j =b条jjc(c)j1,
j=2,,n个.

正向消去求解𝐀𝐱=𝐟然后成为1=(f)1,

3.2.11 j=(f)jjj1,
j=2,,n个,

后面的替换是x个n个=n个/d日n个,后面是

3.2.12 x个j=(j单位jx个j+1)/d日j,
j=n个1,,1.

有关求解三对角系统的详细信息,请参见Golub和Van Loan(1996第152-160页).

§3.2(iii)线性系统的条件

这个第页-向量的范数 𝐱=[x个1,,x个n个]T型已给出通过

3.2.13 𝐱第页 =(j=1n个|x个j|第页)1/第页,
第页=1,2,,
𝐱 =最大值1jn个|x个j|.

这个欧几里德范数是这样的吗第页=2.

这个第页-矩阵的范数 𝐀=[jk]

3.2.14 𝐀第页=最大值𝐱𝟎𝐀𝐱第页𝐱第页.

案例第页=1,2、和是最重要的:

3.2.15 𝐀1 =最大值1kn个j=1n个|jk|,
𝐀 =最大值1jn个k=1n个|jk|,
𝐀2 =ρ(𝐀𝐀T型),

哪里ρ(𝐀𝐀T型)是绝对值中最大的矩阵特征值的值𝐀𝐀T型; 看见§3.2(iv)(我们假设矩阵𝐀是真实的;如果没有𝐀T型被替换为𝐀H(H),转置的复共轭𝐀.)

解向量的灵敏度𝐱英寸(3.2.1)至矩阵中的小扰动𝐀和向量𝐛条件编号

3.2.16 κ(𝐀)=𝐀第页𝐀1第页,

哪里第页是矩阵范数之一。对于任何规范(3.2.14)我们有κ(𝐀)1。越大价值κ(𝐀),系统的状况就越糟糕。

𝐱表示系统的计算解(3.2.1),使用𝐫=𝐛𝐀𝐱再次表示残留物。然后我们有了后部错误界限

3.2.17 𝐱𝐱第页𝐱第页κ(𝐀)𝐫第页𝐛第页.

有关更多信息,请参阅布雷津斯基(1999)特雷费坦和鲍(1997,第3章).

§3.2(iv)特征值和特征向量

如果𝐀是一个n个×n个矩阵,然后是实数或复数λ被称为特征值属于𝐀,和一个非零向量𝐱对应的(正确的)特征向量,如果

3.2.18 𝐀𝐱=λ𝐱.

非零向量𝐲称为左特征向量属于𝐀对应于特征值λ如果𝐲T型𝐀=λ𝐲T型或者,同等地,𝐀T型𝐲=λ𝐲.A类归一化的特征向量具有欧氏范数1;比较(3.2.13)带有第页=2.

多项式

3.2.19 第页n个(λ)=det(探测)[λ𝐈𝐀]

被称为特征多项式属于𝐀及其零是的特征值𝐀. The多重性特征值的是其作为特征多项式零点的多重性3.8(i)). 到多重特征值,在那里符合线性无关的特征向量提供了𝐀无缺陷的也就是说,𝐀有一整套n个线性地独立的特征向量。

§3.2(v)特征值条件

如果𝐀无缺陷且λ是的简单零第页n个(λ),然后是λ到中的小扰动矩阵𝐀条件编号

3.2.20 κ(λ)=1|𝐲T型𝐱|,

哪里𝐱𝐲是标准化的左右的特征向量𝐀对应于特征值λ.因为|𝐲T型𝐱|=|余弦θ|,其中θ之间的角度𝐲T型𝐱我们总是这样κ(λ)1.何时𝐀是对称矩阵,左边和右特征向量重合,产生κ(λ)=1、和计算其特征值是一个条件良好的问题。

§3.2(vi)对称矩阵的Lanczos三对角化

𝐀做一个n个×n个对称矩阵。定义Lanczos载体 𝐯j和系数αjβj通过𝐯0=𝟎,标准化向量𝐯1(可能是随机选择的),α1=𝐯1T型𝐀𝐯1,β1=0、和用于j=1,2,,n个1通过递归方案

3.2.21 𝐮 =𝐀𝐯jαj𝐯jβj𝐯j1,
βj+1 =𝐮2,
𝐯j+1 =𝐮/βj+1,
αj+1 =𝐯j+1T型𝐀𝐯j+1.

然后𝐯jT型𝐯k=δj,k,j,k=1,2,,n个.三对角矩阵

3.2.22 𝐁=[α1β20β2α2ββn个1αn个1βn个0βn个αn个]

具有与相同的特征值𝐀其特征多项式可以是从递归中获得

3.2.23 第页k+1(λ)=(λαk+1)第页k(λ)βk+12第页k1(λ),
k=0,1,,n个1,

具有第页1(λ)=0,第页0(λ)=1.

在正交条件被替换为𝐒-正交性,即,𝐯jT型𝐒𝐯k=δj,k,j,k=1,2,,n个,关于某些正定矩阵𝐒带有Cholesky分解𝐒=𝐋T型𝐋,然后细节更改如下。从开始𝐯0=𝟎,矢量𝐯1这样的话𝐯1T型𝐒𝐯1=1,α1=𝐯1T型𝐀𝐯1,β1=0.然后针对j=1,2,,n个1

3.2.24 𝐮 =(𝐀αj𝐒)𝐯jβj𝐒𝐯j1,
βj+1 =(𝐋1)T型𝐮2,
𝐯j+1 =𝐋1(𝐋1)T型𝐮/βj+1,
αj+1 =𝐯j+1T型𝐀𝐯j+1.

有关更多详细信息,请参阅等。(2007).

有关数字信息,请参见斯图尔特(2001第347-368页).

Lanczos方法与§3.5(v).当矩阵𝐀被标量替换x个,第一行中的递归关系第页,共页(3.2.21)带有𝐮=βj+1𝐯j+1与中的类似(3.5.30_5). 此外(3.2.23)和(3.5.30)是类似,以及矩阵𝐁英寸(3.2.22)和雅各比矩阵𝐉n个英寸(3.5.31).

§3.2(vii)特征值计算

计算特征值有许多方法;看见Golub和Van Loan(1996,第7、8章),特雷费坦和鲍(1997,第5章)、和威尔金森(1988,第8、9章).