1 QR 法
定義 1.1. n ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 とし、A ∈ R n × n A\in\R^{n\times n} A ∈ R n × n とする。
A 0 : = A A_0:=A A 0 := A と置く。k ≥ 0 k\ge0 k ≥ 0 についてA k A_k A k が定まり、実数σ k \sigma_k σ k についてA k − σ k I A_k-\sigma_kI A k − σ k I が正則であるとき、§D3.17 定理 1.2 によるA k − σ k I A_k-\sigma_kI A k − σ k I の QR 分解A k − σ k I = Q k R k A_k-\sigma_kI=Q_kR_k A k − σ k I = Q k R k (Q k Q_k Q k は直交行列、R k R_k R k は対角成分がすべて正の上三角行列)をとり、A k + 1 : = R k Q k + σ k I A_{k+1}:=R_kQ_k+\sigma_kI A k + 1 := R k Q k + σ k I と置く。こうして定まる列( A k ) (A_k) ( A k ) を、A A A に対するシフト( σ k ) (\sigma_k) ( σ k ) の QR 法 (QR algorithm ) という。すべてのk k k でσ k = 0 \sigma_k=0 σ k = 0 であるものを シフトなしの QR 法 (unshifted QR algorithm ) という。実数σ \sigma σ についてすべてのk k k でσ k = σ \sigma_k=\sigma σ k = σ であるとき、σ \sigma σ を 固定シフト (fixed shift ) という。
i > j + 1 i>j+1 i > j + 1 を満たすすべての( i , j ) (i,j) ( i , j ) について( i , j ) (i,j) ( i , j ) 成分が0 0 0 であるn n n 次正方行列を 上 Hessenberg 行列 (upper Hessenberg matrix ) という。上 Hessenberg 行列H H H の( j + 1 , j ) (j+1,j) ( j + 1 , j ) 成分(1 ≤ j ≤ n − 1 1\le j\le n-1 1 ≤ j ≤ n − 1 )がすべて0 0 0 でないとき、H H H は 非簡約 (unreduced ) であるという。
命題 1.2. n ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 、A ∈ R n × n A\in\R^{n\times n} A ∈ R n × n とし、( A k ) (A_k) ( A k ) をA A A に対するシフト( σ k ) (\sigma_k) ( σ k ) の QR 法とする。A k A_k A k が定まるk ≥ 0 k\ge0 k ≥ 0 についてP k : = Q 0 Q 1 ⋯ Q k − 1 P_k:=Q_0Q_1\cdots Q_{k-1} P k := Q 0 Q 1 ⋯ Q k − 1 (P 0 : = I P_0:=I P 0 := I )と置く。
A k A_k A k が定まる任意のk k k について、P k P_k P k は直交行列であり、A k = P k T A P k A_k=P_k^{\mathsf T}AP_k A k = P k T A P k 、det ( t I − A k ) = det ( t I − A ) \det(tI-A_k)=\det(tI-A) det ( t I − A k ) = det ( t I − A ) が成り立つ。さらにA k − σ k I A_k-\sigma_kI A k − σ k I が正則でありA k + 1 A_{k+1} A k + 1 が定まるならば、A k + 1 = Q k T A k Q k A_{k+1}=Q_k^{\mathsf T}A_kQ_k A k + 1 = Q k T A k Q k である。
A T = A A^{\mathsf T}=A A T = A ならば、A k A_k A k が定まる任意のk k k についてA k T = A k A_k^{\mathsf T}=A_k A k T = A k である。
A A A が上 Hessenberg 行列ならば、A k A_k A k が定まる任意のk k k についてA k A_k A k は上 Hessenberg 行列である。A A A が対称な上 Hessenberg 行列ならば、A k A_k A k が定まる任意のk k k についてA k A_k A k は三重対角行列(∣ i − j ∣ > 1 \lvert i-j\rvert>1 ∣ i − j ∣ > 1 を満たすすべての( i , j ) (i,j) ( i , j ) 成分が0 0 0 の正方行列)である。
すべてのk ≥ 0 k\ge0 k ≥ 0 についてA k A_k A k が定まり、det ( t I − A ) \det(tI-A) det ( t I − A ) が実数でない根をもつならば、( A k ) (A_k) ( A k ) が成分ごとに収束してその極限が上三角行列になることはない。
証明. (1) を示す。A k − σ k I A_k-\sigma_kI A k − σ k I が正則でありA k + 1 A_{k+1} A k + 1 が定まるとする。Q k Q_k Q k は直交行列であるからR k = Q k T ( A k − σ k I ) R_k=Q_k^{\mathsf T}(A_k-\sigma_kI) R k = Q k T ( A k − σ k I ) であり、
A k + 1 = Q k T ( A k − σ k I ) Q k + σ k I = Q k T A k Q k A_{k+1}=Q_k^{\mathsf T}(A_k-\sigma_kI)Q_k+\sigma_kI=Q_k^{\mathsf T}A_kQ_k A k + 1 = Q k T ( A k − σ k I ) Q k + σ k I = Q k T A k Q k である。A 0 = P 0 T A P 0 A_0=P_0^{\mathsf T}AP_0 A 0 = P 0 T A P 0 であり、A k = P k T A P k A_k=P_k^{\mathsf T}AP_k A k = P k T A P k ならばA k + 1 = Q k T P k T A P k Q k = P k + 1 T A P k + 1 A_{k+1}=Q_k^{\mathsf T}P_k^{\mathsf T}AP_kQ_k=P_{k+1}^{\mathsf T}AP_{k+1} A k + 1 = Q k T P k T A P k Q k = P k + 1 T A P k + 1 であるから、k k k に関する帰納法によりA k = P k T A P k A_k=P_k^{\mathsf T}AP_k A k = P k T A P k である。直交行列の積P k P_k P k は直交行列であり、det ( t I − A k ) = det ( P k T ( t I − A ) P k ) = det ( t I − A ) \det(tI-A_k)=\det\bigl(P_k^{\mathsf T}(tI-A)P_k\bigr)=\det(tI-A) det ( t I − A k ) = det ( P k T ( t I − A ) P k ) = det ( t I − A ) である。
(2) を示す。(1) によりA k T = P k T A T P k = P k T A P k = A k A_k^{\mathsf T}=P_k^{\mathsf T}A^{\mathsf T}P_k=P_k^{\mathsf T}AP_k=A_k A k T = P k T A T P k = P k T A P k = A k である。
(3) を示す。H H H を上 Hessenberg 行列、U U U を上三角行列とする。( H U ) i j = ∑ l h i l u l j (HU)_{ij}=\sum_lh_{il}u_{lj} ( H U ) ij = ∑ l h i l u l j の項が0 0 0 でないためにはl ≥ i − 1 l\ge i-1 l ≥ i − 1 かつl ≤ j l\le j l ≤ j が必要であり、( U H ) i j = ∑ l u i l h l j (UH)_{ij}=\sum_lu_{il}h_{lj} ( U H ) ij = ∑ l u i l h l j の項が0 0 0 でないためにはl ≥ i l\ge i l ≥ i かつl ≤ j + 1 l\le j+1 l ≤ j + 1 が必要であるから、i > j + 1 i>j+1 i > j + 1 ならば( H U ) i j = ( U H ) i j = 0 (HU)_{ij}=(UH)_{ij}=0 ( H U ) ij = ( U H ) ij = 0 である。したがってH U HU H U とU H UH U H は上 Hessenberg 行列である。A k A_k A k が上 Hessenberg 行列であり、A k + 1 A_{k+1} A k + 1 が定まるとする。A k − σ k I A_k-\sigma_kI A k − σ k I は上 Hessenberg 行列であり、R k R_k R k は正則な上三角行列であるからR k − 1 R_k^{-1} R k − 1 も上三角行列であって、Q k = ( A k − σ k I ) R k − 1 Q_k=(A_k-\sigma_kI)R_k^{-1} Q k = ( A k − σ k I ) R k − 1 は上 Hessenberg 行列である。したがってR k Q k R_kQ_k R k Q k とA k + 1 = R k Q k + σ k I A_{k+1}=R_kQ_k+\sigma_kI A k + 1 = R k Q k + σ k I は上 Hessenberg 行列であり、k k k に関する帰納法により前半が従う。A A A が対称な上 Hessenberg 行列ならば、(2) によりA k A_k A k は対称な上 Hessenberg 行列であり、i > j + 1 i>j+1 i > j + 1 ならば( A k ) i j = 0 (A_k)_{ij}=0 ( A k ) ij = 0 かつ( A k ) j i = ( A k ) i j = 0 (A_k)_{ji}=(A_k)_{ij}=0 ( A k ) j i = ( A k ) ij = 0 である。
(4) を示す。( A k ) (A_k) ( A k ) が上三角行列T T T に成分ごとに収束すると仮定する。A k A_k A k は実行列であるからT T T も実行列である。det ( t I − X ) \det(tI-X) det ( t I − X ) の各係数はX X X の成分の多項式であり、成分について連続であるから、(1) によりdet ( t I − T ) \det(tI-T) det ( t I − T ) の各係数はdet ( t I − A ) \det(tI-A) det ( t I − A ) の対応する係数に等しい。T T T は実上三角行列であるからdet ( t I − T ) = ∏ i ( t − t i i ) \det(tI-T)=\prod_i(t-t_{ii}) det ( t I − T ) = ∏ i ( t − t ii ) の根t 11 , … , t n n t_{11},\dots,t_{nn} t 11 , … , t nn はすべて実数である。一方、det ( t I − T ) = det ( t I − A ) \det(tI-T)=\det(tI-A) det ( t I − T ) = det ( t I − A ) は実数でない根をもつ。二つは両立しない。▨
2 三重対角化と一段の費用
定理 2.1. n ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 、A ∈ R n × n A\in\R^{n\times n} A ∈ R n × n とする。単位行列であるか、Householder 反射H v H_v H v (§E20.6 定義 3.1 )を用いてdiag ( I k , H v ) \operatorname{diag}(I_k,H_v) diag ( I k , H v ) の形に書かれるかのいずれかである高々max { n − 2 , 0 } \max\{n-2,0\} max { n − 2 , 0 } 個の直交行列の積P P P が存在して、P T A P P^{\mathsf T}AP P T A P は上 Hessenberg 行列である。A T = A A^{\mathsf T}=A A T = A ならば、このP P P についてP T A P P^{\mathsf T}AP P T A P は三重対角行列である。
証明. n ≤ 2 n\le2 n ≤ 2 ならばA A A は上 Hessenberg 行列であり、0 0 0 個の直交行列の積P : = I P:=I P := I をとる。n ≥ 3 n\ge3 n ≥ 3 とし、B ( 0 ) : = A B^{(0)}:=A B ( 0 ) := A と置く。1 ≤ k ≤ n − 2 1\le k\le n-2 1 ≤ k ≤ n − 2 について、B ( k − 1 ) B^{(k-1)} B ( k − 1 ) が定まり、その( i , j ) (i,j) ( i , j ) 成分はj ≤ k − 1 j\le k-1 j ≤ k − 1 かつi > j + 1 i>j+1 i > j + 1 ならば0 0 0 であるとする。B ( k − 1 ) B^{(k-1)} B ( k − 1 ) の第k k k 列の第k + 1 k+1 k + 1 成分から第n n n 成分を並べたベクトルをx ∈ R n − k x\in\R^{n-k} x ∈ R n − k とする。x = 0 x=0 x = 0 ならばH k : = I n H_k:=I_n H k := I n と置き、x ≠ 0 x\ne0 x = 0 ならば§E20.6 補題 3.2 (2) のv ∈ R n − k v\in\R^{n-k} v ∈ R n − k についてH k : = diag ( I k , H v ) H_k:=\operatorname{diag}(I_k,H_v) H k := diag ( I k , H v ) と置く。B ( k ) : = H k B ( k − 1 ) H k B^{(k)}:=H_kB^{(k-1)}H_k B ( k ) := H k B ( k − 1 ) H k とする。§E20.6 補題 3.2 (1) によりH k H_k H k は対称な直交行列である。
x = 0 x=0 x = 0 ならばB ( k ) = B ( k − 1 ) B^{(k)}=B^{(k-1)} B ( k ) = B ( k − 1 ) であり、その第k k k 列の第k + 2 k+2 k + 2 成分から第n n n 成分は0 0 0 である。x ≠ 0 x\ne0 x = 0 とする。H k B ( k − 1 ) H_kB^{(k-1)} H k B ( k − 1 ) は、B ( k − 1 ) B^{(k-1)} B ( k − 1 ) の第1 1 1 行から第k k k 行を変えず、各列の第k + 1 k+1 k + 1 成分から第n n n 成分を並べたベクトルy y y をH v y H_vy H v y に置き換えた行列である。j < k j<k j < k ならばk + 1 > j + 1 k+1>j+1 k + 1 > j + 1 であるから、B ( k − 1 ) B^{(k-1)} B ( k − 1 ) の第j j j 列のy y y は0 0 0 であり、H v 0 = 0 H_v0=0 H v 0 = 0 である。第k k k 列のy y y はx x x であり、§E20.6 補題 3.2 (2) によりH v x = − s α e 1 H_vx=-s\alpha e_1 H v x = − s α e 1 であるから、第k + 2 k+2 k + 2 成分から第n n n 成分は0 0 0 になる。右からH k H_k H k を掛ける操作は第1 1 1 列から第k k k 列を変えない。したがって、いずれの場合もB ( k ) B^{(k)} B ( k ) の( i , j ) (i,j) ( i , j ) 成分はj ≤ k j\le k j ≤ k かつi > j + 1 i>j+1 i > j + 1 ならば0 0 0 である。
k k k に関する帰納法により、B ( n − 2 ) B^{(n-2)} B ( n − 2 ) の( i , j ) (i,j) ( i , j ) 成分はj ≤ n − 2 j\le n-2 j ≤ n − 2 かつi > j + 1 i>j+1 i > j + 1 ならば0 0 0 である。j ≥ n − 1 j\ge n-1 j ≥ n − 1 ならばi > j + 1 i>j+1 i > j + 1 を満たすi ≤ n i\le n i ≤ n は存在しないので、B ( n − 2 ) B^{(n-2)} B ( n − 2 ) は上 Hessenberg 行列である。P : = H 1 ⋯ H n − 2 P:=H_1\cdots H_{n-2} P := H 1 ⋯ H n − 2 と置くと、H k T = H k H_k^{\mathsf T}=H_k H k T = H k であるからB ( n − 2 ) = P T A P B^{(n-2)}=P^{\mathsf T}AP B ( n − 2 ) = P T A P である。A T = A A^{\mathsf T}=A A T = A ならばP T A P P^{\mathsf T}AP P T A P は対称な上 Hessenberg 行列であり、i > j + 1 i>j+1 i > j + 1 ならば( i , j ) (i,j) ( i , j ) 成分と( j , i ) (j,i) ( j , i ) 成分が0 0 0 であるから、三重対角行列である。▨
定義 2.2. n ≥ 2 n\ge2 n ≥ 2 、1 ≤ j ≤ n − 1 1\le j\le n-1 1 ≤ j ≤ n − 1 とし、c , s ∈ R c,s\in\R c , s ∈ R はc 2 + s 2 = 1 c^2+s^2=1 c 2 + s 2 = 1 を満たすとする。n n n 次単位行列の( j , j ) (j,j) ( j , j ) 、( j , j + 1 ) (j,j+1) ( j , j + 1 ) 、( j + 1 , j ) (j+1,j) ( j + 1 , j ) 、( j + 1 , j + 1 ) (j+1,j+1) ( j + 1 , j + 1 ) 成分をそれぞれc c c 、− s -s − s 、s s s 、c c c に置き換えた行列G ( j ; c , s ) G(j;c,s) G ( j ; c , s ) を Givens 回転 (Givens rotation ) という。c 2 + s 2 = 1 c^2+s^2=1 c 2 + s 2 = 1 であるからG ( j ; c , s ) T G ( j ; c , s ) = I G(j;c,s)^{\mathsf T}G(j;c,s)=I G ( j ; c , s ) T G ( j ; c , s ) = I であり、G ( j ; c , s ) G(j;c,s) G ( j ; c , s ) は直交行列である。
命題 2.3. n ≥ 2 n\ge2 n ≥ 2 とし、H ∈ R n × n H\in\R^{n\times n} H ∈ R n × n を正則な上 Hessenberg 行列とする。W ( 0 ) : = H W^{(0)}:=H W ( 0 ) := H と置き、j = 1 , … , n − 1 j=1,\dots,n-1 j = 1 , … , n − 1 の順に、W ( j − 1 ) W^{(j-1)} W ( j − 1 ) の( j , j ) (j,j) ( j , j ) 成分a a a と( j + 1 , j ) (j+1,j) ( j + 1 , j ) 成分b b b から
r j : = a 2 + b 2 , c j : = a r j , s j : = b r j , G j : = G ( j ; c j , s j ) , W ( j ) : = G j T W ( j − 1 ) r_j:=\sqrt{a^2+b^2},\qquad c_j:=\frac{a}{r_j},\qquad s_j:=\frac{b}{r_j},\qquad G_j:=G(j;c_j,s_j),\qquad W^{(j)}:=G_j^{\mathsf T}W^{(j-1)} r j := a 2 + b 2 , c j := r j a , s j := r j b , G j := G ( j ; c j , s j ) , W ( j ) := G j T W ( j − 1 ) と置く。
各j j j でr j > 0 r_j>0 r j > 0 である。W ( n − 1 ) W^{(n-1)} W ( n − 1 ) は上三角行列であり、その( j , j ) (j,j) ( j , j ) 成分はr j r_j r j (1 ≤ j ≤ n − 1 1\le j\le n-1 1 ≤ j ≤ n − 1 )であり、( n , n ) (n,n) ( n , n ) 成分w w w は0 0 0 でない。
w > 0 w>0 w > 0 ならばS : = I S:=I S := I 、w < 0 w<0 w < 0 ならばS : = diag ( 1 , … , 1 , − 1 ) S:=\operatorname{diag}(1,\dots,1,-1) S := diag ( 1 , … , 1 , − 1 ) と置く。Q : = G 1 ⋯ G n − 1 S Q:=G_1\cdots G_{n-1}S Q := G 1 ⋯ G n − 1 S とR : = S W ( n − 1 ) R:=SW^{(n-1)} R := S W ( n − 1 ) について、H = Q R H=QR H = QR はH H H の QR 分解であり、R Q = S W ( n − 1 ) G 1 ⋯ G n − 1 S RQ=SW^{(n-1)}G_1\cdots G_{n-1}S R Q = S W ( n − 1 ) G 1 ⋯ G n − 1 S は上 Hessenberg 行列である。
X ( 0 ) : = R X^{(0)}:=R X ( 0 ) := R 、X ( j ) : = X ( j − 1 ) G j X^{(j)}:=X^{(j-1)}G_j X ( j ) := X ( j − 1 ) G j (1 ≤ j ≤ n − 1 1\le j\le n-1 1 ≤ j ≤ n − 1 )と置く。W ( j ) W^{(j)} W ( j ) はW ( j − 1 ) W^{(j-1)} W ( j − 1 ) と第j j j 行・第j + 1 j+1 j + 1 行の第j j j 列から第n n n 列の成分だけが異なり、W ( j ) W^{(j)} W ( j ) の( j , j ) (j,j) ( j , j ) 成分はr j r_j r j 、( j + 1 , j ) (j+1,j) ( j + 1 , j ) 成分は0 0 0 である。X ( j ) X^{(j)} X ( j ) はX ( j − 1 ) X^{(j-1)} X ( j − 1 ) と第1 1 1 行から第j + 1 j+1 j + 1 行の第j j j 列・第j + 1 j+1 j + 1 列の成分だけが異なり、X ( j − 1 ) X^{(j-1)} X ( j − 1 ) の( j + 1 , j ) (j+1,j) ( j + 1 , j ) 成分は0 0 0 である。したがって、r j , c j , s j r_j,c_j,s_j r j , c j , s j をa 2 a^2 a 2 、b 2 b^2 b 2 、その和、平方根、二つの商で計算し、W ( j ) W^{(j)} W ( j ) の第j + 1 j+1 j + 1 列から第n n n 列の第j j j 行・第j + 1 j+1 j + 1 行の成分と、X ( j ) X^{(j)} X ( j ) の第1 1 1 行から第j j j 行の第j j j 列・第j + 1 j+1 j + 1 列の成分を、変更前の二成分( x , y ) (x,y) ( x , y ) からc j x + s j y c_jx+s_jy c j x + s j y とc j y − s j x c_jy-s_jx c j y − s j x として計算し、X ( j ) X^{(j)} X ( j ) の第j + 1 j+1 j + 1 行の第j j j 列・第j + 1 j+1 j + 1 列の成分を、変更前の( j + 1 , j + 1 ) (j+1,j+1) ( j + 1 , j + 1 ) 成分y y y からs j y s_jy s j y とc j y c_jy c j y として計算し、R R R とR Q = X ( n − 1 ) S RQ=X^{(n-1)}S R Q = X ( n − 1 ) S を符号の反転で得ると、c j , s j c_j,s_j c j , s j (1 ≤ j ≤ n − 1 1\le j\le n-1 1 ≤ j ≤ n − 1 )、R R R 、R Q RQ R Q は四則演算と平方根を合わせて( n − 1 ) ( 6 n + 8 ) (n-1)(6n+8) ( n − 1 ) ( 6 n + 8 ) 回で計算される。この回数は6 ( n − 1 ) ( n + 3 ) 6(n-1)(n+3) 6 ( n − 1 ) ( n + 3 ) 以下である。符号の反転は演算に数えない。
証明. G j T G_j^{\mathsf T} G j T を左から掛ける操作は第j j j 行と第j + 1 j+1 j + 1 行だけを変え、各列のその二成分( x , y ) (x,y) ( x , y ) を( c j x + s j y , c j y − s j x ) (c_jx+s_jy,\,c_jy-s_jx) ( c j x + s j y , c j y − s j x ) に置き換える。G j G_j G j を右から掛ける操作は第j j j 列と第j + 1 j+1 j + 1 列だけを変え、各行のその二成分( x , y ) (x,y) ( x , y ) を( c j x + s j y , c j y − s j x ) (c_jx+s_jy,\,c_jy-s_jx) ( c j x + s j y , c j y − s j x ) に置き換える。
(1) を示す。1 ≤ j ≤ n − 1 1\le j\le n-1 1 ≤ j ≤ n − 1 とし、W ( j − 1 ) W^{(j-1)} W ( j − 1 ) が上 Hessenberg 行列であり、i < j i<j i < j について( i + 1 , i ) (i+1,i) ( i + 1 , i ) 成分が0 0 0 であるとする(j = 1 j=1 j = 1 ではH H H についての仮定である)。W ( j − 1 ) = G j − 1 T ⋯ G 1 T H W^{(j-1)}=G_{j-1}^{\mathsf T}\cdots G_1^{\mathsf T}H W ( j − 1 ) = G j − 1 T ⋯ G 1 T H は正則である。l < j l<j l < j ならばW ( j − 1 ) W^{(j-1)} W ( j − 1 ) の第l l l 列は第l l l 成分より下が0 0 0 であり、第j j j 列は第j + 1 j+1 j + 1 成分より下が0 0 0 である。a = b = 0 a=b=0 a = b = 0 ならば第1 1 1 列から第j j j 列がspan { e 1 , … , e j − 1 } \operatorname{span}\{e_1,\dots,e_{j-1}\} span { e 1 , … , e j − 1 } に含まれ、一次従属になるから、r j > 0 r_j>0 r j > 0 である。第j j j 列の二成分( a , b ) (a,b) ( a , b ) は( c j a + s j b , c j b − s j a ) = ( r j , 0 ) (c_ja+s_jb,\,c_jb-s_ja)=(r_j,0) ( c j a + s j b , c j b − s j a ) = ( r j , 0 ) に置き換わる。l < j l<j l < j ならば、W ( j − 1 ) W^{(j-1)} W ( j − 1 ) の( j , l ) (j,l) ( j , l ) 成分はl = j − 1 l=j-1 l = j − 1 のとき仮定により0 0 0 、l < j − 1 l<j-1 l < j − 1 のとき上 Hessenberg 行列であることにより0 0 0 であり、( j + 1 , l ) (j+1,l) ( j + 1 , l ) 成分も0 0 0 であるから、第l l l 列は変わらない。l > j l>j l > j ならば、第j j j 行・第j + 1 j+1 j + 1 行の( i , l ) (i,l) ( i , l ) 成分はi ≤ l + 1 i\le l+1 i ≤ l + 1 を満たす。したがってW ( j ) W^{(j)} W ( j ) は上 Hessenberg 行列であり、i ≤ j i\le j i ≤ j について( i + 1 , i ) (i+1,i) ( i + 1 , i ) 成分が0 0 0 である。j j j に関する帰納法により、W ( n − 1 ) W^{(n-1)} W ( n − 1 ) は上三角行列である。G j ′ T G_{j'}^{\mathsf T} G j ′ T (j ′ > j j'>j j ′ > j )は第j j j 行を変えないので、W ( n − 1 ) W^{(n-1)} W ( n − 1 ) の( j , j ) (j,j) ( j , j ) 成分はr j r_j r j である。W ( n − 1 ) W^{(n-1)} W ( n − 1 ) は正則な上三角行列であるからw ≠ 0 w\ne0 w = 0 である。
(2) を示す。S 2 = I S^2=I S 2 = I であるからQ R = G 1 ⋯ G n − 1 W ( n − 1 ) = G 1 ⋯ G n − 1 G n − 1 T ⋯ G 1 T H = H QR=G_1\cdots G_{n-1}W^{(n-1)}=G_1\cdots G_{n-1}G_{n-1}^{\mathsf T}\cdots G_1^{\mathsf T}H=H QR = G 1 ⋯ G n − 1 W ( n − 1 ) = G 1 ⋯ G n − 1 G n − 1 T ⋯ G 1 T H = H である。Q Q Q は直交行列の積であるから直交行列であり、R R R は対角成分r 1 , … , r n − 1 , ∣ w ∣ r_1,\dots,r_{n-1},\lvert w\rvert r 1 , … , r n − 1 , ∣ w ∣ がすべて正の上三角行列であるから、H = Q R H=QR H = QR はH H H の QR 分解であり、§D3.17 定理 1.2 によりただ一つの QR 分解である。命題 1.2 (3) をH H H に対するシフトなしの QR 法に適用すると、A 1 = R Q A_1=RQ A 1 = R Q は上 Hessenberg 行列である。
(3) を示す。W ( j ) W^{(j)} W ( j ) についての主張は、第一段落で述べたG j T G_j^{\mathsf T} G j T の作用と、W ( j − 1 ) W^{(j-1)} W ( j − 1 ) の第l l l 列(l < j l<j l < j )が変わらないことから従う。X ( j − 1 ) X^{(j-1)} X ( j − 1 ) について、第j j j 列は第j j j 成分より下が0 0 0 であり、第j + 1 j+1 j + 1 列はR R R の第j + 1 j+1 j + 1 列に等しいと仮定する(j = 1 j=1 j = 1 ではX ( 0 ) = R X^{(0)}=R X ( 0 ) = R についての主張である)。第j + 1 j+1 j + 1 行より下の行では第j j j 列・第j + 1 j+1 j + 1 列の二成分がともに0 0 0 であり、G j G_j G j を右から掛けても変わらない。第j + 1 j+1 j + 1 行の二成分は( 0 , y ) (0,y) ( 0 , y ) であり、( s j y , c j y ) (s_jy,c_jy) ( s j y , c j y ) に置き換わる。新しい第j + 1 j+1 j + 1 列は第j + 1 j+1 j + 1 成分より下が0 0 0 であり、第j + 2 j+2 j + 2 列はR R R の第j + 2 j+2 j + 2 列のままであるから、仮定はj + 1 j+1 j + 1 について成り立つ。
演算を数える。段j j j でr j , c j , s j r_j,c_j,s_j r j , c j , s j に6 6 6 回を要する。W ( j ) W^{(j)} W ( j ) の第l l l 列(j < l ≤ n j<l\le n j < l ≤ n )の二成分に、乗算4 4 4 回と加算・減算2 2 2 回の6 6 6 回を要し、合計6 ( n − j ) 6(n-j) 6 ( n − j ) 回である。X ( j ) X^{(j)} X ( j ) の第1 1 1 行から第j j j 行の二成分に各6 6 6 回、第j + 1 j+1 j + 1 行の二成分に乗算2 2 2 回を要し、合計6 j + 2 6j+2 6 j + 2 回である。S S S による符号の反転はW ( n − 1 ) W^{(n-1)} W ( n − 1 ) の第n n n 行とX ( n − 1 ) X^{(n-1)} X ( n − 1 ) の第n n n 列に対して行う。したがって総数は
∑ j = 1 n − 1 ( 6 + 6 ( n − j ) + 6 j + 2 ) = ( n − 1 ) ( 6 n + 8 ) \sum_{j=1}^{n-1}\bigl(6+6(n-j)+6j+2\bigr)=(n-1)(6n+8) j = 1 ∑ n − 1 ( 6 + 6 ( n − j ) + 6 j + 2 ) = ( n − 1 ) ( 6 n + 8 ) であり、6 n + 8 ≤ 6 n + 18 = 6 ( n + 3 ) 6n+8\le6n+18=6(n+3) 6 n + 8 ≤ 6 n + 18 = 6 ( n + 3 ) であるから6 ( n − 1 ) ( n + 3 ) 6(n-1)(n+3) 6 ( n − 1 ) ( n + 3 ) 以下である。▨
3 べき乗法との対応と固定シフトの収束
補題 3.1. n ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 、A ∈ R n × n A\in\R^{n\times n} A ∈ R n × n とし、( A k ) (A_k) ( A k ) をA A A に対するシフト( σ k ) (\sigma_k) ( σ k ) の QR 法、P k P_k P k を命題 1.2 の直交行列とする。k ≥ 0 k\ge0 k ≥ 0 についてA k A_k A k が定まるとし、U k : = R k − 1 ⋯ R 1 R 0 U_k:=R_{k-1}\cdots R_1R_0 U k := R k − 1 ⋯ R 1 R 0 、Φ k : = ( A − σ k − 1 I ) ⋯ ( A − σ 1 I ) ( A − σ 0 I ) \Phi_k:=(A-\sigma_{k-1}I)\cdots(A-\sigma_1I)(A-\sigma_0I) Φ k := ( A − σ k − 1 I ) ⋯ ( A − σ 1 I ) ( A − σ 0 I ) (U 0 : = Φ 0 : = I U_0:=\Phi_0:=I U 0 := Φ 0 := I )と置く。
U k U_k U k は対角成分がすべて正の上三角行列であり、Φ k = P k U k \Phi_k=P_kU_k Φ k = P k U k はΦ k \Phi_k Φ k の QR 分解である。
1 ≤ j ≤ n 1\le j\le n 1 ≤ j ≤ n について、P k P_k P k の第1 1 1 列から第j j j 列が張る部分空間はΦ k ( span { e 1 , … , e j } ) \Phi_k(\operatorname{span}\{e_1,\dots,e_j\}) Φ k ( span { e 1 , … , e j }) に等しい。
すべてのi < k i<k i < k でσ i = σ \sigma_i=\sigma σ i = σ ならば、P k P_k P k の第1 1 1 列は、A − σ I A-\sigma I A − σ I に対するe 1 e_1 e 1 からのべき乗法(§E20.7 定義 1.1 )の第k k k 項に等しい。
証明. (1) を示す。i < k i<k i < k とするとA i + 1 A_{i+1} A i + 1 が定まるのでA i − σ i I = Q i R i A_i-\sigma_iI=Q_iR_i A i − σ i I = Q i R i であり、命題 1.2 (1) によりA − σ i I = P i ( A i − σ i I ) P i T = P i Q i R i P i T A-\sigma_iI=P_i(A_i-\sigma_iI)P_i^{\mathsf T}=P_iQ_iR_iP_i^{\mathsf T} A − σ i I = P i ( A i − σ i I ) P i T = P i Q i R i P i T 、したがって( A − σ i I ) P i = P i + 1 R i (A-\sigma_iI)P_i=P_{i+1}R_i ( A − σ i I ) P i = P i + 1 R i である。Φ 0 = P 0 U 0 \Phi_0=P_0U_0 Φ 0 = P 0 U 0 であり、Φ i = P i U i \Phi_i=P_iU_i Φ i = P i U i ならばΦ i + 1 = ( A − σ i I ) P i U i = P i + 1 R i U i = P i + 1 U i + 1 \Phi_{i+1}=(A-\sigma_iI)P_iU_i=P_{i+1}R_iU_i=P_{i+1}U_{i+1} Φ i + 1 = ( A − σ i I ) P i U i = P i + 1 R i U i = P i + 1 U i + 1 であるから、i i i に関する帰納法によりΦ k = P k U k \Phi_k=P_kU_k Φ k = P k U k である。上三角行列の積は上三角行列であり、その対角成分は対角成分の積であるから、U k U_k U k は対角成分がすべて正の上三角行列である。P k P_k P k は直交行列であるから、Φ k = P k U k \Phi_k=P_kU_k Φ k = P k U k はΦ k \Phi_k Φ k の QR 分解である。
(2) を示す。E j : = ( e 1 ⋯ e j ) ∈ R n × j E_j:=(e_1\ \cdots\ e_j)\in\R^{n\times j} E j := ( e 1 ⋯ e j ) ∈ R n × j とし、P k P_k P k の第1 1 1 列から第j j j 列からなる行列をP ′ P' P ′ 、U k U_k U k の左上のj × j j\times j j × j 部分をU ′ U' U ′ とする。U k U_k U k は上三角行列であるからΦ k E j = P k U k E j = P ′ U ′ \Phi_kE_j=P_kU_kE_j=P'U' Φ k E j = P k U k E j = P ′ U ′ であり、U ′ U' U ′ は正則であるから、P ′ P' P ′ の列空間とΦ k E j \Phi_kE_j Φ k E j の列空間は等しい。
(3) を示す。B : = A − σ I B:=A-\sigma I B := A − σ I と置く。k ≥ 1 k\ge1 k ≥ 1 ならばA 1 A_1 A 1 が定まるのでB = A 0 − σ 0 I B=A_0-\sigma_0I B = A 0 − σ 0 I は正則である。( y i ) (y_i) ( y i ) をB B B に対するe 1 e_1 e 1 からのべき乗法とすると、y 0 = e 1 y_0=e_1 y 0 = e 1 であり、y i = B i e 1 / ∥ B i e 1 ∥ 2 y_i=B^ie_1/\lVert B^ie_1\rVert_2 y i = B i e 1 / ∥ B i e 1 ∥ 2 ならばB y i ≠ 0 By_i\ne0 B y i = 0 、y i + 1 = B i + 1 e 1 / ∥ B i + 1 e 1 ∥ 2 y_{i+1}=B^{i+1}e_1/\lVert B^{i+1}e_1\rVert_2 y i + 1 = B i + 1 e 1 / ∥ B i + 1 e 1 ∥ 2 であるから、y k = B k e 1 / ∥ B k e 1 ∥ 2 y_k=B^ke_1/\lVert B^ke_1\rVert_2 y k = B k e 1 / ∥ B k e 1 ∥ 2 である。P k P_k P k の第1 1 1 列p p p は、(1) によりB k e 1 = Φ k e 1 = ( U k ) 11 p B^ke_1=\Phi_ke_1=(U_k)_{11}p B k e 1 = Φ k e 1 = ( U k ) 11 p 、( U k ) 11 > 0 (U_k)_{11}>0 ( U k ) 11 > 0 、∥ p ∥ 2 = 1 \lVert p\rVert_2=1 ∥ p ∥ 2 = 1 を満たすので、p = y k p=y_k p = y k である。▨
補題 3.2. n ≥ 2 n\ge2 n ≥ 2 、1 ≤ j ≤ n − 1 1\le j\le n-1 1 ≤ j ≤ n − 1 とし、行列M M M の∥ M ∥ 2 \lVert M\rVert_2 ∥ M ∥ 2 は Euclid ノルムに関する作用素ノルムとする。直交行列Z ∈ R n × n Z\in\R^{n\times n} Z ∈ R n × n を
Z = ( X 1 Y 1 X 2 Y 2 ) , X 1 ∈ R j × j , Y 2 ∈ R ( n − j ) × ( n − j ) Z=\begin{pmatrix}X_1&Y_1\\X_2&Y_2\end{pmatrix},\qquad X_1\in\R^{j\times j},\quad Y_2\in\R^{(n-j)\times(n-j)} Z = ( X 1 X 2 Y 1 Y 2 ) , X 1 ∈ R j × j , Y 2 ∈ R ( n − j ) × ( n − j ) と区分し、F ∈ R ( n − j ) × j F\in\R^{(n-j)\times j} F ∈ R ( n − j ) × j がX 2 = F X 1 X_2=FX_1 X 2 = F X 1 を満たすとする。
X 1 X_1 X 1 は正則であり、Y 1 = − F T Y 2 Y_1=-F^{\mathsf T}Y_2 Y 1 = − F T Y 2 、∥ X 2 ∥ 2 ≤ ∥ F ∥ 2 \lVert X_2\rVert_2\le\lVert F\rVert_2 ∥ X 2 ∥ 2 ≤ ∥ F ∥ 2 、∥ Y 1 ∥ 2 ≤ ∥ F ∥ 2 \lVert Y_1\rVert_2\le\lVert F\rVert_2 ∥ Y 1 ∥ 2 ≤ ∥ F ∥ 2 が成り立つ。
D 1 ∈ R j × j D_1\in\R^{j\times j} D 1 ∈ R j × j 、D 2 ∈ R ( n − j ) × ( n − j ) D_2\in\R^{(n-j)\times(n-j)} D 2 ∈ R ( n − j ) × ( n − j ) に対して
( Y 1 Y 2 ) T ( D 1 0 0 D 2 ) ( X 1 X 2 ) = Y 2 T ( D 2 F − F D 1 ) X 1 \begin{pmatrix}Y_1\\Y_2\end{pmatrix}^{\mathsf T}\begin{pmatrix}D_1&0\\0&D_2\end{pmatrix}\begin{pmatrix}X_1\\X_2\end{pmatrix}=Y_2^{\mathsf T}(D_2F-FD_1)X_1 ( Y 1 Y 2 ) T ( D 1 0 0 D 2 ) ( X 1 X 2 ) = Y 2 T ( D 2 F − F D 1 ) X 1
が成り立ち、この行列の∥ ⋅ ∥ 2 \lVert\cdot\rVert_2 ∥ ⋅ ∥ 2 は( ∥ D 1 ∥ 2 + ∥ D 2 ∥ 2 ) ∥ F ∥ 2 (\lVert D_1\rVert_2+\lVert D_2\rVert_2)\lVert F\rVert_2 (∥ D 1 ∥ 2 + ∥ D 2 ∥ 2 ) ∥ F ∥ 2 以下である。
証明. 実行列M M M の∥ M ∥ 2 \lVert M\rVert_2 ∥ M ∥ 2 は§E20.6 補題 2.1 (1) により有限であり、作用素ノルムの定義により∥ M h ∥ 2 ≤ ∥ M ∥ 2 ∥ h ∥ 2 \lVert Mh\rVert_2\le\lVert M\rVert_2\lVert h\rVert_2 ∥ M h ∥ 2 ≤ ∥ M ∥ 2 ∥ h ∥ 2 を満たす。積M N MN M N が定まる行列M , N M,N M , N とベクトルh h h について∥ M N h ∥ 2 ≤ ∥ M ∥ 2 ∥ N ∥ 2 ∥ h ∥ 2 \lVert MNh\rVert_2\le\lVert M\rVert_2\lVert N\rVert_2\lVert h\rVert_2 ∥ M N h ∥ 2 ≤ ∥ M ∥ 2 ∥ N ∥ 2 ∥ h ∥ 2 であるから、∥ M N ∥ 2 ≤ ∥ M ∥ 2 ∥ N ∥ 2 \lVert MN\rVert_2\le\lVert M\rVert_2\lVert N\rVert_2 ∥ M N ∥ 2 ≤ ∥ M ∥ 2 ∥ N ∥ 2 である。Z Z Z の列は正規直交であるから、h ∈ R j h\in\R^j h ∈ R j について∥ X 1 h ∥ 2 2 ≤ ∥ X 1 h ∥ 2 2 + ∥ X 2 h ∥ 2 2 = ∥ h ∥ 2 2 \lVert X_1h\rVert_2^2\le\lVert X_1h\rVert_2^2+\lVert X_2h\rVert_2^2=\lVert h\rVert_2^2 ∥ X 1 h ∥ 2 2 ≤ ∥ X 1 h ∥ 2 2 + ∥ X 2 h ∥ 2 2 = ∥ h ∥ 2 2 であり、∥ X 1 ∥ 2 ≤ 1 \lVert X_1\rVert_2\le1 ∥ X 1 ∥ 2 ≤ 1 である。同様に∥ Y 2 ∥ 2 ≤ 1 \lVert Y_2\rVert_2\le1 ∥ Y 2 ∥ 2 ≤ 1 である。§E20.6 補題 2.1 (1) により、任意の実行列M M M について∥ M T ∥ 2 = ∥ M ∥ 2 \lVert M^{\mathsf T}\rVert_2=\lVert M\rVert_2 ∥ M T ∥ 2 = ∥ M ∥ 2 である。
(1) を示す。Z T Z = I Z^{\mathsf T}Z=I Z T Z = I の左上のj × j j\times j j × j 部分と右上のj × ( n − j ) j\times(n-j) j × ( n − j ) 部分から
X 1 T X 1 + X 2 T X 2 = I j , X 1 T Y 1 + X 2 T Y 2 = 0 X_1^{\mathsf T}X_1+X_2^{\mathsf T}X_2=I_j,\qquad X_1^{\mathsf T}Y_1+X_2^{\mathsf T}Y_2=0 X 1 T X 1 + X 2 T X 2 = I j , X 1 T Y 1 + X 2 T Y 2 = 0 である。第一式にX 2 = F X 1 X_2=FX_1 X 2 = F X 1 を代入するとX 1 T ( I j + F T F ) X 1 = I j X_1^{\mathsf T}(I_j+F^{\mathsf T}F)X_1=I_j X 1 T ( I j + F T F ) X 1 = I j であり、X 1 X_1 X 1 は正則である。第二式はX 1 T ( Y 1 + F T Y 2 ) = 0 X_1^{\mathsf T}(Y_1+F^{\mathsf T}Y_2)=0 X 1 T ( Y 1 + F T Y 2 ) = 0 となり、X 1 T X_1^{\mathsf T} X 1 T は正則であるからY 1 = − F T Y 2 Y_1=-F^{\mathsf T}Y_2 Y 1 = − F T Y 2 である。したがって∥ X 2 ∥ 2 ≤ ∥ F ∥ 2 ∥ X 1 ∥ 2 ≤ ∥ F ∥ 2 \lVert X_2\rVert_2\le\lVert F\rVert_2\lVert X_1\rVert_2\le\lVert F\rVert_2 ∥ X 2 ∥ 2 ≤ ∥ F ∥ 2 ∥ X 1 ∥ 2 ≤ ∥ F ∥ 2 、∥ Y 1 ∥ 2 ≤ ∥ F T ∥ 2 ∥ Y 2 ∥ 2 ≤ ∥ F ∥ 2 \lVert Y_1\rVert_2\le\lVert F^{\mathsf T}\rVert_2\lVert Y_2\rVert_2\le\lVert F\rVert_2 ∥ Y 1 ∥ 2 ≤ ∥ F T ∥ 2 ∥ Y 2 ∥ 2 ≤ ∥ F ∥ 2 である。
(2) を示す。左辺はY 1 T D 1 X 1 + Y 2 T D 2 X 2 Y_1^{\mathsf T}D_1X_1+Y_2^{\mathsf T}D_2X_2 Y 1 T D 1 X 1 + Y 2 T D 2 X 2 に等しく、(1) のY 1 T = − Y 2 T F Y_1^{\mathsf T}=-Y_2^{\mathsf T}F Y 1 T = − Y 2 T F とX 2 = F X 1 X_2=FX_1 X 2 = F X 1 を代入して右辺を得る。∥ Y 2 T ∥ 2 ≤ 1 \lVert Y_2^{\mathsf T}\rVert_2\le1 ∥ Y 2 T ∥ 2 ≤ 1 、∥ X 1 ∥ 2 ≤ 1 \lVert X_1\rVert_2\le1 ∥ X 1 ∥ 2 ≤ 1 であるから、右辺の∥ ⋅ ∥ 2 \lVert\cdot\rVert_2 ∥ ⋅ ∥ 2 は∥ D 2 F − F D 1 ∥ 2 ≤ ( ∥ D 2 ∥ 2 + ∥ D 1 ∥ 2 ) ∥ F ∥ 2 \lVert D_2F-FD_1\rVert_2\le(\lVert D_2\rVert_2+\lVert D_1\rVert_2)\lVert F\rVert_2 ∥ D 2 F − F D 1 ∥ 2 ≤ (∥ D 2 ∥ 2 + ∥ D 1 ∥ 2 ) ∥ F ∥ 2 以下である。▨
定理 3.3. n ≥ 2 n\ge2 n ≥ 2 とし、A ∈ R n × n A\in\R^{n\times n} A ∈ R n × n はA T = A A^{\mathsf T}=A A T = A を満たすとする。σ ∈ R \sigma\in\R σ ∈ R とし、直交行列V = ( v 1 ⋯ v n ) V=(v_1\ \cdots\ v_n) V = ( v 1 ⋯ v n ) と実数λ 1 , … , λ n \lambda_1,\dots,\lambda_n λ 1 , … , λ n がA v i = λ i v i Av_i=\lambda_iv_i A v i = λ i v i (1 ≤ i ≤ n 1\le i\le n 1 ≤ i ≤ n )と
∣ λ 1 − σ ∣ > ∣ λ 2 − σ ∣ > ⋯ > ∣ λ n − σ ∣ > 0 \lvert\lambda_1-\sigma\rvert>\lvert\lambda_2-\sigma\rvert>\dots>\lvert\lambda_n-\sigma\rvert>0 ∣ λ 1 − σ ∣ > ∣ λ 2 − σ ∣ > ⋯ > ∣ λ n − σ ∣ > 0 を満たすとする。1 ≤ j ≤ n − 1 1\le j\le n-1 1 ≤ j ≤ n − 1 について、V T V^{\mathsf T} V T の第1 1 1 行から第j j j 行・第1 1 1 列から第j j j 列の部分をM j ∈ R j × j M_j\in\R^{j\times j} M j ∈ R j × j 、第j + 1 j+1 j + 1 行から第n n n 行・第1 1 1 列から第j j j 列の部分をN j ∈ R ( n − j ) × j N_j\in\R^{(n-j)\times j} N j ∈ R ( n − j ) × j とし、M j M_j M j が正則であると仮定する。行列の∥ ⋅ ∥ 2 \lVert\cdot\rVert_2 ∥ ⋅ ∥ 2 は Euclid ノルムに関する作用素ノルムとし、1 ≤ j ≤ n − 1 1\le j\le n-1 1 ≤ j ≤ n − 1 とk ≥ 0 k\ge0 k ≥ 0 について
t j : = ∥ N j M j − 1 ∥ 2 , q j : = ∣ λ j + 1 − σ ∣ ∣ λ j − σ ∣ , ε j , k : = t j q j k t_j:=\lVert N_jM_j^{-1}\rVert_2,\qquad q_j:=\frac{\lvert\lambda_{j+1}-\sigma\rvert}{\lvert\lambda_j-\sigma\rvert},\qquad\varepsilon_{j,k}:=t_jq_j^k t j := ∥ N j M j − 1 ∥ 2 , q j := ∣ λ j − σ ∣ ∣ λ j + 1 − σ ∣ , ε j , k := t j q j k と置き、ε 0 , k : = ε n , k : = 0 \varepsilon_{0,k}:=\varepsilon_{n,k}:=0 ε 0 , k := ε n , k := 0 とする。( A k ) (A_k) ( A k ) をA A A に対する固定シフトσ \sigma σ の QR 法とし、P k P_k P k を命題 1.2 の直交行列とする。
すべてのk ≥ 0 k\ge0 k ≥ 0 についてA k A_k A k が定まり、A k − σ I A_k-\sigma I A k − σ I は正則である。
1 ≤ j ≤ n − 1 1\le j\le n-1 1 ≤ j ≤ n − 1 とk ≥ 0 k\ge0 k ≥ 0 について、P k P_k P k の第1 1 1 列から第j j j 列が張る部分空間の任意の単位ベクトルy y y はdist ( y , span { v 1 , … , v j } ) ≤ ε j , k \operatorname{dist}(y,\operatorname{span}\{v_1,\dots,v_j\})\le\varepsilon_{j,k} dist ( y , span { v 1 , … , v j }) ≤ ε j , k を満たす。
1 ≤ l ≤ j < i ≤ n 1\le l\le j<i\le n 1 ≤ l ≤ j < i ≤ n とk ≥ 0 k\ge0 k ≥ 0 について∣ ( A k ) i l ∣ = ∣ ( A k ) l i ∣ ≤ 2 ∣ λ 1 − σ ∣ ε j , k \lvert(A_k)_{il}\rvert=\lvert(A_k)_{li}\rvert\le2\lvert\lambda_1-\sigma\rvert\varepsilon_{j,k} ∣( A k ) i l ∣ = ∣( A k ) l i ∣ ≤ 2 ∣ λ 1 − σ ∣ ε j , k が成り立つ。特に∣ ( A k ) j + 1 , j ∣ ≤ 2 ∣ λ 1 − σ ∣ t j q j k \lvert(A_k)_{j+1,j}\rvert\le2\lvert\lambda_1-\sigma\rvert t_jq_j^k ∣( A k ) j + 1 , j ∣ ≤ 2 ∣ λ 1 − σ ∣ t j q j k であり、A k A_k A k の非対角成分はすべてk → ∞ k\to\infty k → ∞ で0 0 0 に収束する。
1 ≤ j ≤ n 1\le j\le n 1 ≤ j ≤ n とk ≥ 0 k\ge0 k ≥ 0 について、δ j : = max i ∣ λ i − λ j ∣ \delta_j:=\max_i\lvert\lambda_i-\lambda_j\rvert δ j := max i ∣ λ i − λ j ∣ と置くと、∣ ( A k ) j j − λ j ∣ ≤ δ j ( ε j − 1 , k 2 + ε j , k 2 ) \lvert(A_k)_{jj}-\lambda_j\rvert\le\delta_j(\varepsilon_{j-1,k}^2+\varepsilon_{j,k}^2) ∣( A k ) j j − λ j ∣ ≤ δ j ( ε j − 1 , k 2 + ε j , k 2 ) が成り立つ。
証明. (1) を示す。∣ λ n − σ ∣ > 0 \lvert\lambda_n-\sigma\rvert>0 ∣ λ n − σ ∣ > 0 であるから、λ 1 , … , λ n \lambda_1,\dots,\lambda_n λ 1 , … , λ n はいずれもσ \sigma σ に等しくなく、A − σ I = V diag ( λ i − σ ) V T A-\sigma I=V\operatorname{diag}(\lambda_i-\sigma)V^{\mathsf T} A − σ I = V diag ( λ i − σ ) V T は正則である。A k A_k A k が定まるならば、命題 1.2 (1) によりA k − σ I = P k T ( A − σ I ) P k A_k-\sigma I=P_k^{\mathsf T}(A-\sigma I)P_k A k − σ I = P k T ( A − σ I ) P k は正則であり、A k + 1 A_{k+1} A k + 1 が定まる。k k k に関する帰納法により(1) が従う。
Λ : = diag ( λ 1 − σ , … , λ n − σ ) \Lambda:=\operatorname{diag}(\lambda_1-\sigma,\dots,\lambda_n-\sigma) Λ := diag ( λ 1 − σ , … , λ n − σ ) と置くと、A V = V diag ( λ i ) AV=V\operatorname{diag}(\lambda_i) A V = V diag ( λ i ) からA − σ I = V Λ V T A-\sigma I=V\Lambda V^{\mathsf T} A − σ I = V Λ V T 、V T ( A − σ I ) k = Λ k V T V^{\mathsf T}(A-\sigma I)^k=\Lambda^kV^{\mathsf T} V T ( A − σ I ) k = Λ k V T である。k ≥ 0 k\ge0 k ≥ 0 についてZ k : = V T P k Z_k:=V^{\mathsf T}P_k Z k := V T P k は直交行列である。
主張 3.3.1. 1 ≤ j ≤ n − 1 1\le j\le n-1 1 ≤ j ≤ n − 1 、k ≥ 0 k\ge0 k ≥ 0 とし、Z k Z_k Z k を補題 3.2 のようにX 1 , X 2 , Y 1 , Y 2 X_1,X_2,Y_1,Y_2 X 1 , X 2 , Y 1 , Y 2 に区分し、Λ \Lambda Λ の左上のj × j j\times j j × j 部分をΛ 1 \Lambda_1 Λ 1 、右下の( n − j ) × ( n − j ) (n-j)\times(n-j) ( n − j ) × ( n − j ) 部分をΛ 2 \Lambda_2 Λ 2 とする。F : = Λ 2 k N j M j − 1 Λ 1 − k F:=\Lambda_2^kN_jM_j^{-1}\Lambda_1^{-k} F := Λ 2 k N j M j − 1 Λ 1 − k はX 2 = F X 1 X_2=FX_1 X 2 = F X 1 と∥ F ∥ 2 ≤ ε j , k \lVert F\rVert_2\le\varepsilon_{j,k} ∥ F ∥ 2 ≤ ε j , k を満たす。また∥ Λ 1 ∥ 2 ≤ ∣ λ 1 − σ ∣ \lVert\Lambda_1\rVert_2\le\lvert\lambda_1-\sigma\rvert ∥ Λ 1 ∥ 2 ≤ ∣ λ 1 − σ ∣ 、∥ Λ 2 ∥ 2 ≤ ∣ λ 1 − σ ∣ \lVert\Lambda_2\rVert_2\le\lvert\lambda_1-\sigma\rvert ∥ Λ 2 ∥ 2 ≤ ∣ λ 1 − σ ∣ である。
証明. E j : = ( e 1 ⋯ e j ) E_j:=(e_1\ \cdots\ e_j) E j := ( e 1 ⋯ e j ) とし、P k P_k P k の第1 1 1 列から第j j j 列からなる行列をP ′ P' P ′ 、補題 3.1 のU k U_k U k の左上のj × j j\times j j × j 部分をU ′ U' U ′ とする。固定シフトではΦ k = ( A − σ I ) k \Phi_k=(A-\sigma I)^k Φ k = ( A − σ I ) k であり、補題 3.1 (1) とU k U_k U k が上三角行列であることから( A − σ I ) k E j = P k U k E j = P ′ U ′ (A-\sigma I)^kE_j=P_kU_kE_j=P'U' ( A − σ I ) k E j = P k U k E j = P ′ U ′ である。V T P ′ V^{\mathsf T}P' V T P ′ はX 1 X_1 X 1 とX 2 X_2 X 2 を縦に並べた行列であり、V T E j V^{\mathsf T}E_j V T E j はM j M_j M j とN j N_j N j を縦に並べた行列であるから、
( X 1 X 2 ) U ′ = V T ( A − σ I ) k E j = Λ k ( M j N j ) \begin{pmatrix}X_1\\X_2\end{pmatrix}U'=V^{\mathsf T}(A-\sigma I)^kE_j=\Lambda^k\begin{pmatrix}M_j\\N_j\end{pmatrix} ( X 1 X 2 ) U ′ = V T ( A − σ I ) k E j = Λ k ( M j N j ) である。U ′ U' U ′ は対角成分が正の上三角行列であるから正則であり、X 1 = Λ 1 k M j U ′ − 1 X_1=\Lambda_1^kM_jU'^{-1} X 1 = Λ 1 k M j U ′ − 1 、X 2 = Λ 2 k N j U ′ − 1 X_2=\Lambda_2^kN_jU'^{-1} X 2 = Λ 2 k N j U ′ − 1 である。Λ 1 \Lambda_1 Λ 1 とM j M_j M j は正則であるからU ′ − 1 = M j − 1 Λ 1 − k X 1 U'^{-1}=M_j^{-1}\Lambda_1^{-k}X_1 U ′ − 1 = M j − 1 Λ 1 − k X 1 であり、X 2 = F X 1 X_2=FX_1 X 2 = F X 1 である。対角行列diag ( μ 1 , … , μ m ) \operatorname{diag}(\mu_1,\dots,\mu_m) diag ( μ 1 , … , μ m ) とh ∈ R m h\in\R^m h ∈ R m について∥ diag ( μ i ) h ∥ 2 2 = ∑ i μ i 2 h i 2 ≤ max i μ i 2 ∥ h ∥ 2 2 \lVert\operatorname{diag}(\mu_i)h\rVert_2^2=\sum_i\mu_i^2h_i^2\le\max_i\mu_i^2\lVert h\rVert_2^2 ∥ diag ( μ i ) h ∥ 2 2 = ∑ i μ i 2 h i 2 ≤ max i μ i 2 ∥ h ∥ 2 2 である。∣ λ i − σ ∣ \lvert\lambda_i-\sigma\rvert ∣ λ i − σ ∣ はi i i について狭義に減少するから、∥ Λ 2 k ∥ 2 ≤ ∣ λ j + 1 − σ ∣ k \lVert\Lambda_2^k\rVert_2\le\lvert\lambda_{j+1}-\sigma\rvert^k ∥ Λ 2 k ∥ 2 ≤ ∣ λ j + 1 − σ ∣ k 、∥ Λ 1 − k ∥ 2 ≤ ∣ λ j − σ ∣ − k \lVert\Lambda_1^{-k}\rVert_2\le\lvert\lambda_j-\sigma\rvert^{-k} ∥ Λ 1 − k ∥ 2 ≤ ∣ λ j − σ ∣ − k 、∥ Λ 1 ∥ 2 ≤ ∣ λ 1 − σ ∣ \lVert\Lambda_1\rVert_2\le\lvert\lambda_1-\sigma\rvert ∥ Λ 1 ∥ 2 ≤ ∣ λ 1 − σ ∣ 、∥ Λ 2 ∥ 2 ≤ ∣ λ 1 − σ ∣ \lVert\Lambda_2\rVert_2\le\lvert\lambda_1-\sigma\rvert ∥ Λ 2 ∥ 2 ≤ ∣ λ 1 − σ ∣ である。作用素ノルムの定義により、積が定まる行列M , N M,N M , N について∥ M N ∥ 2 ≤ ∥ M ∥ 2 ∥ N ∥ 2 \lVert MN\rVert_2\le\lVert M\rVert_2\lVert N\rVert_2 ∥ M N ∥ 2 ≤ ∥ M ∥ 2 ∥ N ∥ 2 であるから、
∥ F ∥ 2 ≤ ∣ λ j + 1 − σ ∣ k t j ∣ λ j − σ ∣ − k = ε j , k \lVert F\rVert_2\le\lvert\lambda_{j+1}-\sigma\rvert^k\,t_j\,\lvert\lambda_j-\sigma\rvert^{-k}=\varepsilon_{j,k} ∥ F ∥ 2 ≤ ∣ λ j + 1 − σ ∣ k t j ∣ λ j − σ ∣ − k = ε j , k である。▨
(2) を示す。主張 3.3.1 の区分をとる。P k P_k P k の第1 1 1 列から第j j j 列は正規直交であるから、y = P k E j z y=P_kE_jz y = P k E j z 、∥ z ∥ 2 = 1 \lVert z\rVert_2=1 ∥ z ∥ 2 = 1 を満たすz ∈ R j z\in\R^j z ∈ R j がある。v i T y v_i^{\mathsf T}y v i T y はV T y V^{\mathsf T}y V T y の第i i i 成分であり、V T y V^{\mathsf T}y V T y はX 1 z X_1z X 1 z とX 2 z X_2z X 2 z を縦に並べたベクトルである。§E20.7 補題 2.1 (2) をJ = { 1 , … , j } J=\{1,\dots,j\} J = { 1 , … , j } に適用し、補題 3.2 (1) と主張 3.3.1 を用いると
dist ( y , span { v 1 , … , v j } ) = ∥ X 2 z ∥ 2 ≤ ∥ X 2 ∥ 2 ≤ ∥ F ∥ 2 ≤ ε j , k \operatorname{dist}(y,\operatorname{span}\{v_1,\dots,v_j\})=\lVert X_2z\rVert_2\le\lVert X_2\rVert_2\le\lVert F\rVert_2\le\varepsilon_{j,k} dist ( y , span { v 1 , … , v j }) = ∥ X 2 z ∥ 2 ≤ ∥ X 2 ∥ 2 ≤ ∥ F ∥ 2 ≤ ε j , k である。
(3) を示す。主張 3.3.1 の区分をとり、P k P_k P k の第1 1 1 列から第j j j 列からなる行列をP ′ P' P ′ 、第j + 1 j+1 j + 1 列から第n n n 列からなる行列をP ′ ′ P'' P ′′ とする。A k = P k T A P k A_k=P_k^{\mathsf T}AP_k A k = P k T A P k (命題 1.2 (1) )の第j + 1 j+1 j + 1 行から第n n n 行・第1 1 1 列から第j j j 列の部分をB B B とすると、P ′ ′ T P ′ = 0 P''^{\mathsf T}P'=0 P ′′ T P ′ = 0 であるから
B = P ′ ′ T A P ′ = P ′ ′ T ( A − σ I ) P ′ = ( V T P ′ ′ ) T Λ ( V T P ′ ) B=P''^{\mathsf T}AP'=P''^{\mathsf T}(A-\sigma I)P'=(V^{\mathsf T}P'')^{\mathsf T}\,\Lambda\,(V^{\mathsf T}P') B = P ′′ T A P ′ = P ′′ T ( A − σ I ) P ′ = ( V T P ′′ ) T Λ ( V T P ′ ) である。V T P ′ V^{\mathsf T}P' V T P ′ はX 1 X_1 X 1 とX 2 X_2 X 2 を、V T P ′ ′ V^{\mathsf T}P'' V T P ′′ はY 1 Y_1 Y 1 とY 2 Y_2 Y 2 を縦に並べた行列であるから、補題 3.2 (2) をD 1 = Λ 1 D_1=\Lambda_1 D 1 = Λ 1 、D 2 = Λ 2 D_2=\Lambda_2 D 2 = Λ 2 に適用し、主張 3.3.1 を用いて∥ B ∥ 2 ≤ 2 ∣ λ 1 − σ ∣ ε j , k \lVert B\rVert_2\le2\lvert\lambda_1-\sigma\rvert\varepsilon_{j,k} ∥ B ∥ 2 ≤ 2 ∣ λ 1 − σ ∣ ε j , k を得る。1 ≤ l ≤ j < i ≤ n 1\le l\le j<i\le n 1 ≤ l ≤ j < i ≤ n ならば( A k ) i l (A_k)_{il} ( A k ) i l はB B B の( i − j , l ) (i-j,l) ( i − j , l ) 成分であり、∣ ( A k ) i l ∣ = ∣ e i − j T B e l ∣ ≤ ∥ B e l ∥ 2 ≤ ∥ B ∥ 2 \lvert(A_k)_{il}\rvert=\lvert e_{i-j}^{\mathsf T}Be_l\rvert\le\lVert Be_l\rVert_2\le\lVert B\rVert_2 ∣( A k ) i l ∣ = ∣ e i − j T B e l ∣ ≤ ∥ B e l ∥ 2 ≤ ∥ B ∥ 2 である。命題 1.2 (2) により( A k ) l i = ( A k ) i l (A_k)_{li}=(A_k)_{il} ( A k ) l i = ( A k ) i l である。0 ≤ q j < 1 0\le q_j<1 0 ≤ q j < 1 であるからε j , k → 0 \varepsilon_{j,k}\to0 ε j , k → 0 (k → ∞ k\to\infty k → ∞ )であり、i > l i>l i > l を満たす( i , l ) (i,l) ( i , l ) 成分にj : = l j:=l j := l として評価を適用すると、非対角成分の収束が従う。
(4) を示す。p : = P k e j p:=P_ke_j p := P k e j 、c i : = v i T p c_i:=v_i^{\mathsf T}p c i := v i T p と置く。命題 1.2 (1) により( A k ) j j = p T A p (A_k)_{jj}=p^{\mathsf T}Ap ( A k ) j j = p T A p である。j ≤ n − 1 j\le n-1 j ≤ n − 1 ならば、主張 3.3.1 のj j j についての区分でp p p はP k E j P_kE_j P k E j の第j j j 列であるから、( c j + 1 , … , c n ) T = X 2 e j (c_{j+1},\dots,c_n)^{\mathsf T}=X_2e_j ( c j + 1 , … , c n ) T = X 2 e j であり、補題 3.2 (1) と主張 3.3.1 により∑ i > j c i 2 ≤ ∥ X 2 ∥ 2 2 ≤ ε j , k 2 \sum_{i>j}c_i^2\le\lVert X_2\rVert_2^2\le\varepsilon_{j,k}^2 ∑ i > j c i 2 ≤ ∥ X 2 ∥ 2 2 ≤ ε j , k 2 である。j ≥ 2 j\ge2 j ≥ 2 ならば、主張 3.3.1 のj − 1 j-1 j − 1 についての区分でp p p はP k P_k P k の第j j j 列から第n n n 列からなる行列の第1 1 1 列であるから、( c 1 , … , c j − 1 ) T = Y 1 e 1 (c_1,\dots,c_{j-1})^{\mathsf T}=Y_1e_1 ( c 1 , … , c j − 1 ) T = Y 1 e 1 であり、補題 3.2 (1) と主張 3.3.1 により∑ i < j c i 2 ≤ ∥ Y 1 ∥ 2 2 ≤ ε j − 1 , k 2 \sum_{i<j}c_i^2\le\lVert Y_1\rVert_2^2\le\varepsilon_{j-1,k}^2 ∑ i < j c i 2 ≤ ∥ Y 1 ∥ 2 2 ≤ ε j − 1 , k 2 である。λ 1 , … , λ n \lambda_1,\dots,\lambda_n λ 1 , … , λ n は相異なるので、番号を付け替えて§E20.7 命題 2.2 (1) をd = 1 d=1 d = 1 、λ = λ j \lambda=\lambda_j λ = λ j 、E = span { v j } E=\operatorname{span}\{v_j\} E = span { v j } に適用し、§E20.7 補題 2.1 (2) を用いると
∣ ( A k ) j j − λ j ∣ ≤ δ j dist ( p , span { v j } ) 2 = δ j ∑ i ≠ j c i 2 ≤ δ j ( ε j − 1 , k 2 + ε j , k 2 ) \lvert(A_k)_{jj}-\lambda_j\rvert\le\delta_j\operatorname{dist}(p,\operatorname{span}\{v_j\})^2=\delta_j\sum_{i\ne j}c_i^2\le\delta_j(\varepsilon_{j-1,k}^2+\varepsilon_{j,k}^2) ∣( A k ) j j − λ j ∣ ≤ δ j dist ( p , span { v j } ) 2 = δ j i = j ∑ c i 2 ≤ δ j ( ε j − 1 , k 2 + ε j , k 2 ) である。▨
命題 3.4. n ≥ 2 n\ge2 n ≥ 2 とし、T ∈ R n × n T\in\R^{n\times n} T ∈ R n × n を対称な非簡約上 Hessenberg 行列とする。
0 ≤ m ≤ n − 1 0\le m\le n-1 0 ≤ m ≤ n − 1 についてspan { e 1 , T e 1 , … , T m e 1 } = span { e 1 , … , e m + 1 } \operatorname{span}\{e_1,Te_1,\dots,T^me_1\}=\operatorname{span}\{e_1,\dots,e_{m+1}\} span { e 1 , T e 1 , … , T m e 1 } = span { e 1 , … , e m + 1 } である。
det ( t I − T ) \det(tI-T) det ( t I − T ) の根はすべて単根である。
λ ∈ R \lambda\in\R λ ∈ R とv ∈ R n ∖ { 0 } v\in\R^n\setminus\{0\} v ∈ R n ∖ { 0 } がT v = λ v Tv=\lambda v T v = λ v を満たすならば、v T e 1 ≠ 0 v^{\mathsf T}e_1\ne0 v T e 1 = 0 である。
直交行列V = ( v 1 ⋯ v n ) V=(v_1\ \cdots\ v_n) V = ( v 1 ⋯ v n ) と実数λ 1 , … , λ n \lambda_1,\dots,\lambda_n λ 1 , … , λ n がT v i = λ i v i Tv_i=\lambda_iv_i T v i = λ i v i (1 ≤ i ≤ n 1\le i\le n 1 ≤ i ≤ n )を満たすならば、1 ≤ j ≤ n 1\le j\le n 1 ≤ j ≤ n についてV T V^{\mathsf T} V T の第1 1 1 行から第j j j 行・第1 1 1 列から第j j j 列の部分は正則である。
証明. (1) を示す。τ 0 : = 1 \tau_0:=1 τ 0 := 1 、τ m : = t 21 t 32 ⋯ t m + 1 , m \tau_m:=t_{21}t_{32}\cdots t_{m+1,m} τ m := t 21 t 32 ⋯ t m + 1 , m (m ≥ 1 m\ge1 m ≥ 1 )と置くと、T T T は非簡約であるからτ m ≠ 0 \tau_m\ne0 τ m = 0 である。x ∈ span { e 1 , … , e m + 1 } x\in\operatorname{span}\{e_1,\dots,e_{m+1}\} x ∈ span { e 1 , … , e m + 1 } (m ≤ n − 2 m\le n-2 m ≤ n − 2 )ならば、T T T は上 Hessenberg 行列であるからT x ∈ span { e 1 , … , e m + 2 } Tx\in\operatorname{span}\{e_1,\dots,e_{m+2}\} T x ∈ span { e 1 , … , e m + 2 } であり、T x Tx T x の第m + 2 m+2 m + 2 成分はt m + 2 , m + 1 x m + 1 t_{m+2,m+1}x_{m+1} t m + 2 , m + 1 x m + 1 である。m m m に関する帰納法により、T m e 1 ∈ span { e 1 , … , e m + 1 } T^me_1\in\operatorname{span}\{e_1,\dots,e_{m+1}\} T m e 1 ∈ span { e 1 , … , e m + 1 } であり、その第m + 1 m+1 m + 1 成分はτ m \tau_m τ m である。したがってe 1 , T e 1 , … , T m e 1 e_1,Te_1,\dots,T^me_1 e 1 , T e 1 , … , T m e 1 は一次独立であり、span { e 1 , … , e m + 1 } \operatorname{span}\{e_1,\dots,e_{m+1}\} span { e 1 , … , e m + 1 } に含まれるので、span { e 1 , … , e m + 1 } \operatorname{span}\{e_1,\dots,e_{m+1}\} span { e 1 , … , e m + 1 } を張る。
(2) を示す。λ \lambda λ をdet ( t I − T ) \det(tI-T) det ( t I − T ) の根とする。T − λ I T-\lambda I T − λ I の第2 2 2 行から第n n n 行・第1 1 1 列から第n − 1 n-1 n − 1 列の部分は、( i , l ) (i,l) ( i , l ) 成分(1 ≤ i , l ≤ n − 1 1\le i,l\le n-1 1 ≤ i , l ≤ n − 1 )がT − λ I T-\lambda I T − λ I の( i + 1 , l ) (i+1,l) ( i + 1 , l ) 成分であり、i > l i>l i > l ならばi + 1 > l + 1 i+1>l+1 i + 1 > l + 1 であるから0 0 0 、i = l i=l i = l ならばt i + 1 , i ≠ 0 t_{i+1,i}\ne0 t i + 1 , i = 0 である。この部分は正則な上三角行列であるから、T − λ I T-\lambda I T − λ I の階数はn − 1 n-1 n − 1 以上であり、dim ker ( T − λ I ) ≤ 1 \dim\ker(T-\lambda I)\le1 dim ker ( T − λ I ) ≤ 1 である。§E20.7 補題 2.1 (3) の正規直交基底q 1 , … , q n q_1,\dots,q_n q 1 , … , q n と実数λ 1 ′ ≤ ⋯ ≤ λ n ′ \lambda'_1\le\dots\le\lambda'_n λ 1 ′ ≤ ⋯ ≤ λ n ′ をとると、§E20.7 補題 2.1 (1) により∥ ( T − λ I ) y ∥ 2 2 = ∑ i ( λ i ′ − λ ) 2 ( q i T y ) 2 \lVert(T-\lambda I)y\rVert_2^2=\sum_i(\lambda'_i-\lambda)^2(q_i^{\mathsf T}y)^2 ∥( T − λ I ) y ∥ 2 2 = ∑ i ( λ i ′ − λ ) 2 ( q i T y ) 2 であるから、ker ( T − λ I ) = span { q i ∣ λ i ′ = λ } \ker(T-\lambda I)=\operatorname{span}\{q_i\mid\lambda'_i=\lambda\} ker ( T − λ I ) = span { q i ∣ λ i ′ = λ } である。det ( t I − T ) = ∏ i ( t − λ i ′ ) \det(tI-T)=\prod_i(t-\lambda'_i) det ( t I − T ) = ∏ i ( t − λ i ′ ) におけるλ \lambda λ の重複度はλ i ′ = λ \lambda'_i=\lambda λ i ′ = λ を満たすi i i の個数であり、dim ker ( T − λ I ) ≤ 1 \dim\ker(T-\lambda I)\le1 dim ker ( T − λ I ) ≤ 1 に等しい。
(3) を示す。v T e 1 = 0 v^{\mathsf T}e_1=0 v T e 1 = 0 と仮定する。T T T は対称であるから、m ≥ 0 m\ge0 m ≥ 0 についてv T T m e 1 = ( T m v ) T e 1 = λ m v T e 1 = 0 v^{\mathsf T}T^me_1=(T^mv)^{\mathsf T}e_1=\lambda^mv^{\mathsf T}e_1=0 v T T m e 1 = ( T m v ) T e 1 = λ m v T e 1 = 0 である。(1) をm = n − 1 m=n-1 m = n − 1 に適用すると、v v v はR n \R^n R n のすべての元に直交し、v = 0 v=0 v = 0 である。v = 0 v=0 v = 0 は仮定v ≠ 0 v\ne0 v = 0 と両立しない。
(4) を示す。V T V^{\mathsf T} V T の当該部分をM M M とし、z ∈ R j z\in\R^j z ∈ R j がM z = 0 Mz=0 M z = 0 を満たすとする。x : = ∑ i ≤ j z i e i x:=\sum_{i\le j}z_ie_i x := ∑ i ≤ j z i e i と置くと、i ≤ j i\le j i ≤ j についてM z Mz M z の第i i i 成分はv i T x v_i^{\mathsf T}x v i T x であるからv i T x = 0 v_i^{\mathsf T}x=0 v i T x = 0 である。(1) をm = j − 1 m=j-1 m = j − 1 に適用すると、次数j − 1 j-1 j − 1 以下の実係数多項式p p p が存在してx = p ( T ) e 1 x=p(T)e_1 x = p ( T ) e 1 である。v i T T m = λ i m v i T v_i^{\mathsf T}T^m=\lambda_i^mv_i^{\mathsf T} v i T T m = λ i m v i T であるからv i T x = p ( λ i ) v i T e 1 v_i^{\mathsf T}x=p(\lambda_i)v_i^{\mathsf T}e_1 v i T x = p ( λ i ) v i T e 1 であり、(3) によりp ( λ i ) = 0 p(\lambda_i)=0 p ( λ i ) = 0 (1 ≤ i ≤ j 1\le i\le j 1 ≤ i ≤ j )である。V V V は直交行列であるからdet ( t I − T ) = det ( t I − diag ( λ i ) ) = ∏ i ( t − λ i ) \det(tI-T)=\det(tI-\operatorname{diag}(\lambda_i))=\prod_i(t-\lambda_i) det ( t I − T ) = det ( t I − diag ( λ i )) = ∏ i ( t − λ i ) であり、(2) によりλ 1 , … , λ j \lambda_1,\dots,\lambda_j λ 1 , … , λ j は相異なる。次数j − 1 j-1 j − 1 以下の多項式p p p がj j j 個の相異なる根をもつのでp = 0 p=0 p = 0 であり、x = 0 x=0 x = 0 、z = 0 z=0 z = 0 である。▨
例 3.5. A : = diag ( 1 , 2 ) A:=\operatorname{diag}(1,2) A := diag ( 1 , 2 ) 、σ : = 0 \sigma:=0 σ := 0 とする。∣ 2 ∣ > ∣ 1 ∣ \lvert2\rvert>\lvert1\rvert ∣ 2 ∣ > ∣ 1 ∣ であるから定理 3.3 の番号付けはλ 1 = 2 \lambda_1=2 λ 1 = 2 、λ 2 = 1 \lambda_2=1 λ 2 = 1 、v 1 = ± e 2 v_1=\pm e_2 v 1 = ± e 2 、v 2 = ± e 1 v_2=\pm e_1 v 2 = ± e 1 であり、M 1 M_1 M 1 はV T V^{\mathsf T} V T の( 1 , 1 ) (1,1) ( 1 , 1 ) 成分0 0 0 であって正則でない。A = I ⋅ A A=I\cdot A A = I ⋅ A はA A A の QR 分解であるから、§D3.17 定理 1.2 の一意性によりQ 0 = I Q_0=I Q 0 = I 、R 0 = A R_0=A R 0 = A 、A 1 = A A_1=A A 1 = A であり、すべてのk k k についてA k = A A_k=A A k = A 、P k = I P_k=I P k = I である。( A k ) 21 = 0 (A_k)_{21}=0 ( A k ) 21 = 0 であるが、( A k ) 11 = 1 ≠ λ 1 (A_k)_{11}=1\ne\lambda_1 ( A k ) 11 = 1 = λ 1 であり、P k P_k P k の第1 1 1 列が張る部分空間span { e 1 } \operatorname{span}\{e_1\} span { e 1 } の単位ベクトルe 1 e_1 e 1 はdist ( e 1 , span { v 1 } ) = 1 \operatorname{dist}(e_1,\operatorname{span}\{v_1\})=1 dist ( e 1 , span { v 1 }) = 1 を満たす。0 < ∣ η ∣ < 2 0<\lvert\eta\rvert<\sqrt2 0 < ∣ η ∣ < 2 とし、A η : = ( 1 η η 2 ) A_\eta:=\begin{pmatrix}1&\eta\\\eta&2\end{pmatrix} A η := ( 1 η η 2 ) とする。A η A_\eta A η は対称な非簡約上 Hessenberg 行列であり、固有値はμ ± : = ( 3 ± 1 + 4 η 2 ) / 2 \mu_\pm:=\bigl(3\pm\sqrt{1+4\eta^2}\bigr)/2 μ ± := ( 3 ± 1 + 4 η 2 ) /2 である。1 + 4 η 2 < 9 1+4\eta^2<9 1 + 4 η 2 < 9 からμ − > 0 \mu_->0 μ − > 0 であり、μ + > μ − > 0 \mu_+>\mu_->0 μ + > μ − > 0 である。σ = 0 \sigma=0 σ = 0 についてλ 1 = μ + \lambda_1=\mu_+ λ 1 = μ + 、λ 2 = μ − \lambda_2=\mu_- λ 2 = μ − とし、対応する単位固有ベクトルをv 1 v_1 v 1 、v 2 v_2 v 2 とすると、§D3.15 定理 3.1 によりv 1 v_1 v 1 とv 2 v_2 v 2 は直交し、V = ( v 1 v 2 ) V=(v_1\ v_2) V = ( v 1 v 2 ) は直交行列である。定理 3.3 の固有値の条件が成り立ち、命題 3.4 (4) によりM 1 M_1 M 1 は正則である。定理 3.3 (4) により、A η A_\eta A η に対するシフトなしの QR 法の( 1 , 1 ) (1,1) ( 1 , 1 ) 成分はμ + \mu_+ μ + に収束する。1 + 4 η 2 > 1 \sqrt{1+4\eta^2}>1 1 + 4 η 2 > 1 からμ + > 2 \mu_+>2 μ + > 2 であり、η → 0 \eta\to0 η → 0 のときμ + → 2 \mu_+\to2 μ + → 2 である。η = 0 \eta=0 η = 0 では( 1 , 1 ) (1,1) ( 1 , 1 ) 成分は1 1 1 のままである。
4 Gershgorin の包含定理と固有値の摂動
定理 4.1 (Gershgorin の包含定理). n ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 、A = ( a i j ) ∈ C n × n A=(a_{ij})\in\C^{n\times n} A = ( a ij ) ∈ C n × n とし、1 ≤ i ≤ n 1\le i\le n 1 ≤ i ≤ n についてr i : = ∑ j ≠ i ∣ a i j ∣ r_i:=\sum_{j\ne i}\lvert a_{ij}\rvert r i := ∑ j = i ∣ a ij ∣ 、D i : = { z ∈ C ∣ ∣ z − a i i ∣ ≤ r i } \mathcal D_i:=\{z\in\C\mid\lvert z-a_{ii}\rvert\le r_i\} D i := { z ∈ C ∣ ∣ z − a ii ∣ ≤ r i } と置く。det ( λ I − A ) = 0 \det(\lambda I-A)=0 det ( λ I − A ) = 0 を満たす任意のλ ∈ C \lambda\in\C λ ∈ C はD 1 ∪ ⋯ ∪ D n \mathcal D_1\cup\dots\cup\mathcal D_n D 1 ∪ ⋯ ∪ D n に属する。
証明. A x = λ x Ax=\lambda x A x = λ x を満たすx ∈ C n ∖ { 0 } x\in\C^n\setminus\{0\} x ∈ C n ∖ { 0 } をとり、∣ x i ∣ = max j ∣ x j ∣ \lvert x_i\rvert=\max_j\lvert x_j\rvert ∣ x i ∣ = max j ∣ x j ∣ を満たすi i i をとる。x ≠ 0 x\ne0 x = 0 であるから∣ x i ∣ > 0 \lvert x_i\rvert>0 ∣ x i ∣ > 0 である。A x = λ x Ax=\lambda x A x = λ x の第i i i 成分から( λ − a i i ) x i = ∑ j ≠ i a i j x j (\lambda-a_{ii})x_i=\sum_{j\ne i}a_{ij}x_j ( λ − a ii ) x i = ∑ j = i a ij x j であり、
∣ λ − a i i ∣ ∣ x i ∣ ≤ ∑ j ≠ i ∣ a i j ∣ ∣ x j ∣ ≤ r i ∣ x i ∣ \lvert\lambda-a_{ii}\rvert\lvert x_i\rvert\le\sum_{j\ne i}\lvert a_{ij}\rvert\lvert x_j\rvert\le r_i\lvert x_i\rvert ∣ λ − a ii ∣ ∣ x i ∣ ≤ j = i ∑ ∣ a ij ∣ ∣ x j ∣ ≤ r i ∣ x i ∣ である。両辺を∣ x i ∣ \lvert x_i\rvert ∣ x i ∣ で割ってλ ∈ D i \lambda\in\mathcal D_i λ ∈ D i を得る。▨
系 4.2. n ≥ 2 n\ge2 n ≥ 2 とし、A = ( a i j ) ∈ R n × n A=(a_{ij})\in\R^{n\times n} A = ( a ij ) ∈ R n × n はA T = A A^{\mathsf T}=A A T = A を満たすとする。r i : = ∑ j ≠ i ∣ a i j ∣ r_i:=\sum_{j\ne i}\lvert a_{ij}\rvert r i := ∑ j = i ∣ a ij ∣ 、ℓ : = min i ( a i i − r i ) \ell:=\min_i(a_{ii}-r_i) ℓ := min i ( a ii − r i ) 、u : = max i ( a i i + r i ) u:=\max_i(a_{ii}+r_i) u := max i ( a ii + r i ) と置く。
det ( t I − A ) \det(tI-A) det ( t I − A ) の根はすべて実数であり、区間[ ℓ , u ] [\ell,u] [ ℓ , u ] に属する。
A A A が非簡約上 Hessenberg 行列であり、σ < ℓ \sigma<\ell σ < ℓ であるとする。det ( t I − A ) \det(tI-A) det ( t I − A ) の根は相異なり、根をλ 1 > λ 2 > ⋯ > λ n \lambda_1>\lambda_2>\dots>\lambda_n λ 1 > λ 2 > ⋯ > λ n と並べると、直交行列V = ( v 1 ⋯ v n ) V=(v_1\ \cdots\ v_n) V = ( v 1 ⋯ v n ) でA v i = λ i v i Av_i=\lambda_iv_i A v i = λ i v i を満たすものが存在する。そのような任意のV V V について、A A A 、σ \sigma σ 、V V V 、λ 1 , … , λ n \lambda_1,\dots,\lambda_n λ 1 , … , λ n は定理 3.3 の仮定をすべて満たし、同定理のq j q_j q j は( λ j + 1 − σ ) / ( λ j − σ ) (\lambda_{j+1}-\sigma)/(\lambda_j-\sigma) ( λ j + 1 − σ ) / ( λ j − σ ) に等しい。
(2) の仮定の下で、σ < σ ′ < ℓ \sigma<\sigma'<\ell σ < σ ′ < ℓ ならば、1 ≤ j ≤ n − 1 1\le j\le n-1 1 ≤ j ≤ n − 1 について( λ j + 1 − σ ′ ) / ( λ j − σ ′ ) < ( λ j + 1 − σ ) / ( λ j − σ ) (\lambda_{j+1}-\sigma')/(\lambda_j-\sigma')<(\lambda_{j+1}-\sigma)/(\lambda_j-\sigma) ( λ j + 1 − σ ′ ) / ( λ j − σ ′ ) < ( λ j + 1 − σ ) / ( λ j − σ ) が成り立つ。
証明. (1) を示す。§E20.7 補題 2.1 (3) によりdet ( t I − A ) \det(tI-A) det ( t I − A ) の根は実数である。根λ \lambda λ は定理 4.1 によりあるi i i について∣ λ − a i i ∣ ≤ r i \lvert\lambda-a_{ii}\rvert\le r_i ∣ λ − a ii ∣ ≤ r i を満たすから、ℓ ≤ a i i − r i ≤ λ ≤ a i i + r i ≤ u \ell\le a_{ii}-r_i\le\lambda\le a_{ii}+r_i\le u ℓ ≤ a ii − r i ≤ λ ≤ a ii + r i ≤ u である。
(2) を示す。命題 3.4 (2) により根は相異なる。§E20.7 補題 2.1 (3) の正規直交基底q 1 , … , q n q_1,\dots,q_n q 1 , … , q n とλ 1 ′ < ⋯ < λ n ′ \lambda'_1<\dots<\lambda'_n λ 1 ′ < ⋯ < λ n ′ をとり、v i : = q n + 1 − i v_i:=q_{n+1-i} v i := q n + 1 − i と置けば、V V V は直交行列でありA v i = λ i v i Av_i=\lambda_iv_i A v i = λ i v i である。(1) によりλ i ≥ ℓ > σ \lambda_i\ge\ell>\sigma λ i ≥ ℓ > σ であるから、λ 1 − σ > ⋯ > λ n − σ > 0 \lambda_1-\sigma>\dots>\lambda_n-\sigma>0 λ 1 − σ > ⋯ > λ n − σ > 0 であり、∣ λ i − σ ∣ = λ i − σ \lvert\lambda_i-\sigma\rvert=\lambda_i-\sigma ∣ λ i − σ ∣ = λ i − σ である。命題 3.4 (4) によりM j M_j M j は正則である。
(3) を示す。( λ j + 1 − σ ) / ( λ j − σ ) = 1 − ( λ j − λ j + 1 ) / ( λ j − σ ) (\lambda_{j+1}-\sigma)/(\lambda_j-\sigma)=1-(\lambda_j-\lambda_{j+1})/(\lambda_j-\sigma) ( λ j + 1 − σ ) / ( λ j − σ ) = 1 − ( λ j − λ j + 1 ) / ( λ j − σ ) であり、λ j − λ j + 1 > 0 \lambda_j-\lambda_{j+1}>0 λ j − λ j + 1 > 0 、0 < λ j − σ ′ < λ j − σ 0<\lambda_j-\sigma'<\lambda_j-\sigma 0 < λ j − σ ′ < λ j − σ であるから、右辺の分数はσ ′ \sigma' σ ′ に対する方が大きい。▨
定理 4.3 (Weyl の不等式). n ∈ N ≥ 1 n\in\NN n ∈ N ≥ 1 とする。X T = X X^{\mathsf T}=X X T = X を満たすX ∈ R n × n X\in\R^{n\times n} X ∈ R n × n に対して、det ( t I − X ) \det(tI-X) det ( t I − X ) の根(§E20.7 補題 2.1 (3) によりすべて実数である)を重複度を込めてλ 1 ( X ) ≤ ⋯ ≤ λ n ( X ) \lambda_1(X)\le\dots\le\lambda_n(X) λ 1 ( X ) ≤ ⋯ ≤ λ n ( X ) と並べる。A , E ∈ R n × n A,E\in\R^{n\times n} A , E ∈ R n × n がA T = A A^{\mathsf T}=A A T = A 、E T = E E^{\mathsf T}=E E T = E を満たすならば、Euclid ノルムに関するE E E の作用素ノルム∥ E ∥ 2 \lVert E\rVert_2 ∥ E ∥ 2 について
∣ λ k ( A + E ) − λ k ( A ) ∣ ≤ ∥ E ∥ 2 ( 1 ≤ k ≤ n ) \lvert\lambda_k(A+E)-\lambda_k(A)\rvert\le\lVert E\rVert_2\qquad(1\le k\le n) ∣ λ k ( A + E ) − λ k ( A )∣ ≤ ∥ E ∥ 2 ( 1 ≤ k ≤ n ) が成り立つ。
証明. 単位ベクトルx ∈ R n x\in\R^n x ∈ R n について、Cauchy–Schwarz の不等式と作用素ノルムの定義(有限性は§E20.6 補題 2.1 (1) による)により∣ x T E x ∣ ≤ ∥ x ∥ 2 ∥ E x ∥ 2 ≤ ∥ E ∥ 2 \lvert x^{\mathsf T}Ex\rvert\le\lVert x\rVert_2\lVert Ex\rVert_2\le\lVert E\rVert_2 ∣ x T E x ∣ ≤ ∥ x ∥ 2 ∥ E x ∥ 2 ≤ ∥ E ∥ 2 である。S ⊂ R n S\subset\R^n S ⊂ R n をdim S = k \dim S=k dim S = k の部分空間とすると、S S S の任意の単位ベクトルx x x について
x T ( A + E ) x ≤ x T A x + ∥ E ∥ 2 ≤ max y ∈ S , ∥ y ∥ 2 = 1 y T A y + ∥ E ∥ 2 x^{\mathsf T}(A+E)x\le x^{\mathsf T}Ax+\lVert E\rVert_2\le\max_{y\in S,\ \lVert y\rVert_2=1}y^{\mathsf T}Ay+\lVert E\rVert_2 x T ( A + E ) x ≤ x T A x + ∥ E ∥ 2 ≤ y ∈ S , ∥ y ∥ 2 = 1 max y T A y + ∥ E ∥ 2 である。§E20.7 定理 4.2 により、max y ∈ S , ∥ y ∥ 2 = 1 y T A y = λ k ( A ) \max_{y\in S,\ \lVert y\rVert_2=1}y^{\mathsf T}Ay=\lambda_k(A) max y ∈ S , ∥ y ∥ 2 = 1 y T A y = λ k ( A ) を満たすk k k 次元部分空間S S S が存在し、そのS S S について左辺の最大値はλ k ( A + E ) \lambda_k(A+E) λ k ( A + E ) 以上である。したがってλ k ( A + E ) ≤ λ k ( A ) + ∥ E ∥ 2 \lambda_k(A+E)\le\lambda_k(A)+\lVert E\rVert_2 λ k ( A + E ) ≤ λ k ( A ) + ∥ E ∥ 2 である。A + E A+E A + E と− E -E − E に同じ議論を適用すると、∥ − E ∥ 2 = ∥ E ∥ 2 \lVert-E\rVert_2=\lVert E\rVert_2 ∥ − E ∥ 2 = ∥ E ∥ 2 であるからλ k ( A ) ≤ λ k ( A + E ) + ∥ E ∥ 2 \lambda_k(A)\le\lambda_k(A+E)+\lVert E\rVert_2 λ k ( A ) ≤ λ k ( A + E ) + ∥ E ∥ 2 である。二つの不等式から主張が従う。▨
5 デフレーション
定義 5.1. n ≥ 2 n\ge2 n ≥ 2 、T ∈ R n × n T\in\R^{n\times n} T ∈ R n × n を対称な三重対角行列とし、1 ≤ j ≤ n − 1 1\le j\le n-1 1 ≤ j ≤ n − 1 とする。T T T の( j + 1 , j ) (j+1,j) ( j + 1 , j ) 成分と( j , j + 1 ) (j,j+1) ( j , j + 1 ) 成分を0 0 0 に置き換えた行列T ′ T' T ′ を、T T T の第j j j 副対角成分での デフレーション (deflation ) という。T ′ T' T ′ の左上のj × j j\times j j × j 部分をT 1 T_1 T 1 、右下の( n − j ) × ( n − j ) (n-j)\times(n-j) ( n − j ) × ( n − j ) 部分をT 2 T_2 T 2 とすると、T 1 T_1 T 1 とT 2 T_2 T 2 は対称な三重対角行列であり、T ′ = diag ( T 1 , T 2 ) T'=\operatorname{diag}(T_1,T_2) T ′ = diag ( T 1 , T 2 ) である。
命題 5.2. n ≥ 2 n\ge2 n ≥ 2 、T ∈ R n × n T\in\R^{n\times n} T ∈ R n × n を対称な三重対角行列、1 ≤ j ≤ n − 1 1\le j\le n-1 1 ≤ j ≤ n − 1 、β : = t j + 1 , j \beta:=t_{j+1,j} β := t j + 1 , j とし、T ′ T' T ′ 、T 1 T_1 T 1 、T 2 T_2 T 2 を定義 5.1 のとおりとする。λ k ( ⋅ ) \lambda_k(\cdot) λ k ( ⋅ ) は定理 4.3 の記号とする。
Euclid ノルムに関する作用素ノルムについて∥ T − T ′ ∥ 2 = ∣ β ∣ \lVert T-T'\rVert_2=\lvert\beta\rvert ∥ T − T ′ ∥ 2 = ∣ β ∣ である。
det ( t I − T ′ ) = det ( t I j − T 1 ) det ( t I n − j − T 2 ) \det(tI-T')=\det(tI_j-T_1)\det(tI_{n-j}-T_2) det ( t I − T ′ ) = det ( t I j − T 1 ) det ( t I n − j − T 2 ) である。
1 ≤ k ≤ n 1\le k\le n 1 ≤ k ≤ n について∣ λ k ( T ′ ) − λ k ( T ) ∣ ≤ ∣ β ∣ \lvert\lambda_k(T')-\lambda_k(T)\rvert\le\lvert\beta\rvert ∣ λ k ( T ′ ) − λ k ( T )∣ ≤ ∣ β ∣ である。
A ∈ R n × n A\in\R^{n\times n} A ∈ R n × n を対称な三重対角行列、( A k ) (A_k) ( A k ) をA A A に対するシフト( σ k ) (\sigma_k) ( σ k ) の QR 法とし、τ ≥ 0 \tau\ge0 τ ≥ 0 とする。A k A_k A k が定まり∣ ( A k ) j + 1 , j ∣ ≤ τ \lvert(A_k)_{j+1,j}\rvert\le\tau ∣( A k ) j + 1 , j ∣ ≤ τ を満たすならば、A k A_k A k の第j j j 副対角成分でのデフレーションの左上のj × j j\times j j × j 部分の固有値と右下の( n − j ) × ( n − j ) (n-j)\times(n-j) ( n − j ) × ( n − j ) 部分の固有値を合わせて重複度を込めてμ 1 ≤ ⋯ ≤ μ n \mu_1\le\dots\le\mu_n μ 1 ≤ ⋯ ≤ μ n と並べると、∣ μ k − λ k ( A ) ∣ ≤ τ \lvert\mu_k-\lambda_k(A)\rvert\le\tau ∣ μ k − λ k ( A )∣ ≤ τ (1 ≤ k ≤ n 1\le k\le n 1 ≤ k ≤ n )が成り立つ。
証明. (1) を示す。T − T ′ = β ( e j + 1 e j T + e j e j + 1 T ) T-T'=\beta(e_{j+1}e_j^{\mathsf T}+e_je_{j+1}^{\mathsf T}) T − T ′ = β ( e j + 1 e j T + e j e j + 1 T ) であるから、h ∈ R n h\in\R^n h ∈ R n について( T − T ′ ) h = β ( h j e j + 1 + h j + 1 e j ) (T-T')h=\beta(h_je_{j+1}+h_{j+1}e_j) ( T − T ′ ) h = β ( h j e j + 1 + h j + 1 e j ) であり、∥ ( T − T ′ ) h ∥ 2 = ∣ β ∣ ( h j 2 + h j + 1 2 ) 1 / 2 ≤ ∣ β ∣ ∥ h ∥ 2 \lVert(T-T')h\rVert_2=\lvert\beta\rvert(h_j^2+h_{j+1}^2)^{1/2}\le\lvert\beta\rvert\lVert h\rVert_2 ∥( T − T ′ ) h ∥ 2 = ∣ β ∣ ( h j 2 + h j + 1 2 ) 1/2 ≤ ∣ β ∣ ∥ h ∥ 2 である。h = e j h=e_j h = e j で等号が成り立つ。
(2) を示す。t I − T ′ = diag ( t I j − T 1 , t I n − j − T 2 ) tI-T'=\operatorname{diag}(tI_j-T_1,\,tI_{n-j}-T_2) t I − T ′ = diag ( t I j − T 1 , t I n − j − T 2 ) はブロック対角行列であり、その行列式は二つの対角ブロックの行列式の積である。
(3) を示す。E : = T ′ − T E:=T'-T E := T ′ − T は対称であり、(1) により∥ E ∥ 2 = ∣ β ∣ \lVert E\rVert_2=\lvert\beta\rvert ∥ E ∥ 2 = ∣ β ∣ である。定理 4.3 をT T T とE E E に適用する。
(4) を示す。命題 1.2 (3) によりA k A_k A k は対称な三重対角行列である。A k ′ A_k' A k ′ をA k A_k A k の第j j j 副対角成分でのデフレーションとすると、(2) によりμ k = λ k ( A k ′ ) \mu_k=\lambda_k(A_k') μ k = λ k ( A k ′ ) であり、(3) により∣ μ k − λ k ( A k ) ∣ ≤ ∣ ( A k ) j + 1 , j ∣ ≤ τ \lvert\mu_k-\lambda_k(A_k)\rvert\le\lvert(A_k)_{j+1,j}\rvert\le\tau ∣ μ k − λ k ( A k )∣ ≤ ∣( A k ) j + 1 , j ∣ ≤ τ である。命題 1.2 (1) によりdet ( t I − A k ) = det ( t I − A ) \det(tI-A_k)=\det(tI-A) det ( t I − A k ) = det ( t I − A ) であるからλ k ( A k ) = λ k ( A ) \lambda_k(A_k)=\lambda_k(A) λ k ( A k ) = λ k ( A ) である。▨
定義 5.3. n ≥ 2 n\ge2 n ≥ 2 、A ∈ R n × n A\in\R^{n\times n} A ∈ R n × n を対称行列とし、A A A に対するシフト( σ k ) (\sigma_k) ( σ k ) の QR 法を考える。A k A_k A k が定まるとき、A k A_k A k のe n e_n e n における Rayleigh 商σ k : = e n T A k e n = ( A k ) n n \sigma_k:=e_n^{\mathsf T}A_ke_n=(A_k)_{nn} σ k := e n T A k e n = ( A k ) nn をシフトに選ぶことを Rayleigh シフト (Rayleigh quotient shift ) という。A k A_k A k の右下の2 × 2 2\times2 2 × 2 部分を( a b b c ) \begin{pmatrix}a&b\\b&c\end{pmatrix} ( a b b c ) とし、その固有値a + c 2 ± ( a − c 2 ) 2 + b 2 \frac{a+c}{2}\pm\sqrt{\bigl(\frac{a-c}{2}\bigr)^2+b^2} 2 a + c ± ( 2 a − c ) 2 + b 2 のうちc c c との距離が小さい方(距離が等しいときは小さい方)をσ k \sigma_k σ k に選ぶことを Wilkinson シフト (Wilkinson shift ) という。いずれの選び方でも、A k − σ k I A_k-\sigma_kI A k − σ k I が正則である限りA k + 1 A_{k+1} A k + 1 が定まる。
例 5.4. n = 2 n=2 n = 2 とし、A k = ( a b b c ) A_k=\begin{pmatrix}a&b\\b&c\end{pmatrix} A k = ( a b b c ) が定まるとする。h : = ( a − c ) / 2 h:=(a-c)/2 h := ( a − c ) /2 、s : = h 2 + b 2 s:=\sqrt{h^2+b^2} s := h 2 + b 2 と置くと、Wilkinson シフトはσ k = ( a + c ) / 2 + ϵ s \sigma_k=(a+c)/2+\epsilon s σ k = ( a + c ) /2 + ϵs (ϵ ∈ { 1 , − 1 } \epsilon\in\{1,-1\} ϵ ∈ { 1 , − 1 } )の形であり、σ k − a = ϵ s − h \sigma_k-a=\epsilon s-h σ k − a = ϵs − h 、σ k − c = ϵ s + h \sigma_k-c=\epsilon s+h σ k − c = ϵs + h であるから
det ( A k − σ k I ) = ( σ k − a ) ( σ k − c ) − b 2 = s 2 − h 2 − b 2 = 0 \det(A_k-\sigma_kI)=(\sigma_k-a)(\sigma_k-c)-b^2=s^2-h^2-b^2=0 det ( A k − σ k I ) = ( σ k − a ) ( σ k − c ) − b 2 = s 2 − h 2 − b 2 = 0 である。したがってA k − σ k I A_k-\sigma_kI A k − σ k I は正則でなく、定義 1.1 (1) はA k + 1 A_{k+1} A k + 1 を定めない。J : = ( 0 1 1 0 ) J:=\begin{pmatrix}0&1\\1&0\end{pmatrix} J := ( 0 1 1 0 ) に対する Rayleigh シフトの QR 法を考える。A 0 = J A_0=J A 0 = J ならばσ 0 = ( J ) 22 = 0 \sigma_0=(J)_{22}=0 σ 0 = ( J ) 22 = 0 であり、J − σ 0 I = J J-\sigma_0I=J J − σ 0 I = J は正則である。J T J = I J^{\mathsf T}J=I J T J = I であるからJ = J ⋅ I J=J\cdot I J = J ⋅ I はJ J J の QR 分解であり、§D3.17 定理 1.2 の一意性によりQ 0 = J Q_0=J Q 0 = J 、R 0 = I R_0=I R 0 = I 、A 1 = R 0 Q 0 + 0 ⋅ I = J A_1=R_0Q_0+0\cdot I=J A 1 = R 0 Q 0 + 0 ⋅ I = J である。k k k に関する帰納法により、すべてのk k k についてσ k = 0 \sigma_k=0 σ k = 0 、A k = J A_k=J A k = J であり、この列はJ J J に対するシフトなしの QR 法に等しい。( A k ) 21 = 1 (A_k)_{21}=1 ( A k ) 21 = 1 であるから、非対角成分は0 0 0 に収束しない。
例 5.5.
T : = ( 2 1 0 1 3 1 0 1 4 ) T:=\begin{pmatrix}2&1&0\\1&3&1\\0&1&4\end{pmatrix} T := 2 1 0 1 3 1 0 1 4 とする。det ( t I − T ) = t 3 − 9 t 2 + 24 t − 18 = ( t − 3 ) ( t 2 − 6 t + 6 ) \det(tI-T)=t^3-9t^2+24t-18=(t-3)(t^2-6t+6) det ( t I − T ) = t 3 − 9 t 2 + 24 t − 18 = ( t − 3 ) ( t 2 − 6 t + 6 ) であり、固有値は3 + 3 3+\sqrt3 3 + 3 、3 3 3 、3 − 3 3-\sqrt3 3 − 3 である。固有ベクトルは順に( 1 , 1 + 3 , 2 + 3 ) T (1,1+\sqrt3,2+\sqrt3)^{\mathsf T} ( 1 , 1 + 3 , 2 + 3 ) T 、( 1 , 1 , − 1 ) T (1,1,-1)^{\mathsf T} ( 1 , 1 , − 1 ) T 、( 1 , 1 − 3 , 2 − 3 ) T (1,1-\sqrt3,2-\sqrt3)^{\mathsf T} ( 1 , 1 − 3 , 2 − 3 ) T の正の定数倍にとることができる。系 4.2 のℓ \ell ℓ はmin { 2 − 1 , 3 − 2 , 4 − 1 } = 1 \min\{2-1,3-2,4-1\}=1 min { 2 − 1 , 3 − 2 , 4 − 1 } = 1 であり、T T T は対称な非簡約上 Hessenberg 行列であるから、系 4.2 (2) により、σ < 1 \sigma<1 σ < 1 の固定シフトについて定理 3.3 がλ 1 = 3 + 3 \lambda_1=3+\sqrt3 λ 1 = 3 + 3 、λ 2 = 3 \lambda_2=3 λ 2 = 3 、λ 3 = 3 − 3 \lambda_3=3-\sqrt3 λ 3 = 3 − 3 で適用される。上の固有ベクトルを正規化してV V V を作るとt 2 = 4.6252 … t_2=4.6252\ldots t 2 = 4.6252 … である。
T T T に対して、固定シフトσ = 0 \sigma=0 σ = 0 とσ = 9 / 10 \sigma=9/10 σ = 9/10 、Rayleigh シフト、Wilkinson シフトの QR 法を、有効数字60 60 60 桁の十進浮動小数点演算で計算し、∣ ( A k ) 32 ∣ ≤ 10 − 10 \lvert(A_k)_{32}\rvert\le10^{-10} ∣( A k ) 32 ∣ ≤ 1 0 − 10 となる最初のk k k を求めた(値は有効数字3 3 3 桁に丸めて示す)。
σ = 0 \sigma=0 σ = 0 ではq 2 = ( 3 − 3 ) / 3 = 0.4226 … q_2=(3-\sqrt3)/3=0.4226\ldots q 2 = ( 3 − 3 ) /3 = 0.4226 … であり、k = 29 k=29 k = 29 で∣ ( A 29 ) 32 ∣ = 6.74 × 10 − 11 \lvert(A_{29})_{32}\rvert=6.74\times10^{-11} ∣( A 29 ) 32 ∣ = 6.74 × 1 0 − 11 であった。定理 3.3 (3) の上界2 λ 1 t 2 q 2 29 2\lambda_1t_2q_2^{29} 2 λ 1 t 2 q 2 29 は6.23 × 10 − 10 6.23\times10^{-10} 6.23 × 1 0 − 10 である。σ = 9 / 10 \sigma=9/10 σ = 9/10 ではq 2 = ( 2.1 − 3 ) / 2.1 = 0.1752 … q_2=(2.1-\sqrt3)/2.1=0.1752\ldots q 2 = ( 2.1 − 3 ) /2.1 = 0.1752 … であり、系 4.2 (3) のとおりσ = 0 \sigma=0 σ = 0 の場合より小さい。k = 15 k=15 k = 15 で∣ ( A 15 ) 32 ∣ = 2.13 × 10 − 11 \lvert(A_{15})_{32}\rvert=2.13\times10^{-11} ∣( A 15 ) 32 ∣ = 2.13 × 1 0 − 11 であり、上界2 ( λ 1 − 9 10 ) t 2 q 2 15 2(\lambda_1-\tfrac9{10})t_2q_2^{15} 2 ( λ 1 − 10 9 ) t 2 q 2 15 は1.60 × 10 − 10 1.60\times10^{-10} 1.60 × 1 0 − 10 である。二つの固定シフトとも、計算したすべてのk k k で∣ ( A k ) 32 ∣ \lvert(A_k)_{32}\rvert ∣( A k ) 32 ∣ と∣ ( A k ) 21 ∣ \lvert(A_k)_{21}\rvert ∣( A k ) 21 ∣ の計算値は定理 3.3 (3) の上界以下であった。
Rayleigh シフトでは、k = 1 , … , 5 k=1,\dots,5 k = 1 , … , 5 の∣ ( A k ) 32 ∣ \lvert(A_k)_{32}\rvert ∣( A k ) 32 ∣ は7.45 × 10 − 1 7.45\times10^{-1} 7.45 × 1 0 − 1 、2.72 × 10 − 1 2.72\times10^{-1} 2.72 × 1 0 − 1 、7.19 × 10 − 3 7.19\times10^{-3} 7.19 × 1 0 − 3 、1.24 × 10 − 7 1.24\times10^{-7} 1.24 × 1 0 − 7 、6.27 × 10 − 22 6.27\times10^{-22} 6.27 × 1 0 − 22 であった。k = 3 , 4 k=3,4 k = 3 , 4 について∣ ( A k + 1 ) 32 ∣ / ∣ ( A k ) 32 ∣ 3 \lvert(A_{k+1})_{32}\rvert/\lvert(A_k)_{32}\rvert^3 ∣( A k + 1 ) 32 ∣ / ∣( A k ) 32 ∣ 3 は順に0.332 0.332 0.332 、0.333 0.333 0.333 であった。( A 5 ) 33 (A_5)_{33} ( A 5 ) 33 と3 + 3 3+\sqrt3 3 + 3 の差の絶対値は10 − 40 10^{-40} 1 0 − 40 より小さかった。
Wilkinson シフトでは、k = 1 , 2 , 3 k=1,2,3 k = 1 , 2 , 3 の∣ ( A k ) 32 ∣ \lvert(A_k)_{32}\rvert ∣( A k ) 32 ∣ は9.45 × 10 − 2 9.45\times10^{-2} 9.45 × 1 0 − 2 、1.21 × 10 − 5 1.21\times10^{-5} 1.21 × 1 0 − 5 、8.27 × 10 − 18 8.27\times10^{-18} 8.27 × 1 0 − 18 であり、( A 3 ) 33 (A_3)_{33} ( A 3 ) 33 と3 + 3 3+\sqrt3 3 + 3 の差の絶対値は10 − 30 10^{-30} 1 0 − 30 より小さかった。
命題 5.2 (4) をj = 2 j=2 j = 2 、τ = 10 − 10 \tau=10^{-10} τ = 1 0 − 10 に適用すると、厳密な反復のA k A_k A k が∣ ( A k ) 32 ∣ ≤ 10 − 10 \lvert(A_k)_{32}\rvert\le10^{-10} ∣( A k ) 32 ∣ ≤ 1 0 − 10 を満たすならば、( A k ) 33 (A_k)_{33} ( A k ) 33 とA k A_k A k の左上の2 × 2 2\times2 2 × 2 部分の固有値を合わせて昇順に並べた列は、T T T の固有値の昇順の列と各項で10 − 10 10^{-10} 1 0 − 10 以内にある。上のA k A_k A k は有効数字60 60 60 桁の十進演算による計算値であり、その丸め誤差の評価は与えていない。計算値から同じ列を作ると、止めたk k k でT T T の固有値の昇順の列との各項の差はいずれの場合も10 − 20 10^{-20} 1 0 − 20 より小さく、この評価と整合した。計算した( A k ) 33 (A_k)_{33} ( A k ) 33 に最も近いT T T の固有値は、固定シフトでは定理 3.3 (4) と整合して最小の固有値3 − 3 3-\sqrt3 3 − 3 、Rayleigh シフトと Wilkinson シフトでは最大の固有値3 + 3 3+\sqrt3 3 + 3 であった。
6 一般の実行列
例 6.1. J : = ( 0 1 1 0 ) J:=\begin{pmatrix}0&1\\1&0\end{pmatrix} J := ( 0 1 1 0 ) は直交行列であり、J = J ⋅ I J=J\cdot I J = J ⋅ I はJ J J の QR 分解である。§D3.17 定理 1.2 の一意性により、J J J に対するシフトなしの QR 法はQ 0 = J Q_0=J Q 0 = J 、R 0 = I R_0=I R 0 = I 、A 1 = R 0 Q 0 = J A_1=R_0Q_0=J A 1 = R 0 Q 0 = J を与え、すべてのk k k についてA k = J A_k=J A k = J である。J J J の固有値1 1 1 、− 1 -1 − 1 は実数であるが絶対値が等しく、σ = 0 \sigma=0 σ = 0 は定理 3.3 の仮定∣ λ 1 − σ ∣ > ∣ λ 2 − σ ∣ \lvert\lambda_1-\sigma\rvert>\lvert\lambda_2-\sigma\rvert ∣ λ 1 − σ ∣ > ∣ λ 2 − σ ∣ を満たさない。σ ∉ { − 1 , 0 , 1 } \sigma\notin\{-1,0,1\} σ ∈ / { − 1 , 0 , 1 } の固定シフトでは∣ 1 − σ ∣ ≠ ∣ − 1 − σ ∣ \lvert1-\sigma\rvert\ne\lvert-1-\sigma\rvert ∣ 1 − σ ∣ = ∣ − 1 − σ ∣ であり、J J J は対称な非簡約上 Hessenberg 行列であるから、命題 3.4 (4) により同定理の仮定が満たされ、非対角成分は0 0 0 に収束する。K : = ( 0 − 1 1 0 ) K:=\begin{pmatrix}0&-1\\1&0\end{pmatrix} K := ( 0 1 − 1 0 ) も直交行列であり、同じ理由でK K K に対するシフトなしの QR 法はすべてのk k k についてA k = K A_k=K A k = K を与える。det ( t I − K ) = t 2 + 1 \det(tI-K)=t^2+1 det ( t I − K ) = t 2 + 1 の根は± i \pm\mathrm i ± i であり、命題 1.2 (4) により、どのシフト( σ k ) (\sigma_k) ( σ k ) についても、すべてのA k A_k A k が定まるならば( A k ) (A_k) ( A k ) は上三角行列に収束しない。
7 演習
問題 7.1. a , b , c ∈ R a,b,c\in\R a , b , c ∈ R 、b ≠ 0 b\ne0 b = 0 とし、A : = ( a b b c ) A:=\begin{pmatrix}a&b\\b&c\end{pmatrix} A := ( a b b c ) 、d : = a − c d:=a-c d := a − c と置く。A A A に対する QR 法の第一段を Rayleigh シフトσ 0 = c \sigma_0=c σ 0 = c で行うと、A − c I A-cI A − c I は正則であり
A 1 = ( a + d b 2 d 2 + b 2 b 3 d 2 + b 2 b 3 d 2 + b 2 c − d b 2 d 2 + b 2 ) A_1=\begin{pmatrix}a+\dfrac{db^2}{d^2+b^2}&\dfrac{b^3}{d^2+b^2}\\[2mm]\dfrac{b^3}{d^2+b^2}&c-\dfrac{db^2}{d^2+b^2}\end{pmatrix} A 1 = a + d 2 + b 2 d b 2 d 2 + b 2 b 3 d 2 + b 2 b 3 c − d 2 + b 2 d b 2 であることを示せ。またd ≠ 0 d\ne0 d = 0 ならば∣ ( A 1 ) 21 ∣ ≤ ∣ b ∣ 3 / d 2 \lvert(A_1)_{21}\rvert\le\lvert b\rvert^3/d^2 ∣( A 1 ) 21 ∣ ≤ ∣ b ∣ 3 / d 2 であることを示せ。
解答. det ( A − c I ) = d ⋅ 0 − b 2 = − b 2 ≠ 0 \det(A-cI)=d\cdot0-b^2=-b^2\ne0 det ( A − c I ) = d ⋅ 0 − b 2 = − b 2 = 0 であるからA − c I A-cI A − c I は正則である。A − c I = ( d b b 0 ) A-cI=\begin{pmatrix}d&b\\b&0\end{pmatrix} A − c I = ( d b b 0 ) は正則な上 Hessenberg 行列であり、命題 2.3 をn = 2 n=2 n = 2 で適用する。r : = r 1 = d 2 + b 2 > 0 r:=r_1=\sqrt{d^2+b^2}>0 r := r 1 = d 2 + b 2 > 0 、c 1 = d / r c_1=d/r c 1 = d / r 、s 1 = b / r s_1=b/r s 1 = b / r であり、
W ( 1 ) = G 1 T ( A − c I ) = ( d / r b / r − b / r d / r ) ( d b b 0 ) = ( r d b / r 0 − b 2 / r ) W^{(1)}=G_1^{\mathsf T}(A-cI)=\begin{pmatrix}d/r&b/r\\-b/r&d/r\end{pmatrix}\begin{pmatrix}d&b\\b&0\end{pmatrix}=\begin{pmatrix}r&db/r\\0&-b^2/r\end{pmatrix} W ( 1 ) = G 1 T ( A − c I ) = ( d / r − b / r b / r d / r ) ( d b b 0 ) = ( r 0 d b / r − b 2 / r ) である。w = − b 2 / r < 0 w=-b^2/r<0 w = − b 2 / r < 0 であるからS = diag ( 1 , − 1 ) S=\operatorname{diag}(1,-1) S = diag ( 1 , − 1 ) であり、命題 2.3 (2) により
R 0 = ( r d b / r 0 b 2 / r ) , Q 0 = G 1 S = ( d / r b / r b / r − d / r ) R_0=\begin{pmatrix}r&db/r\\0&b^2/r\end{pmatrix},\qquad Q_0=G_1S=\begin{pmatrix}d/r&b/r\\b/r&-d/r\end{pmatrix} R 0 = ( r 0 d b / r b 2 / r ) , Q 0 = G 1 S = ( d / r b / r b / r − d / r ) である。
R 0 Q 0 = ( d + d b 2 / r 2 b − d 2 b / r 2 b 3 / r 2 − d b 2 / r 2 ) R_0Q_0=\begin{pmatrix}d+db^2/r^2&b-d^2b/r^2\\b^3/r^2&-db^2/r^2\end{pmatrix} R 0 Q 0 = ( d + d b 2 / r 2 b 3 / r 2 b − d 2 b / r 2 − d b 2 / r 2 ) であり、b − d 2 b / r 2 = b ( r 2 − d 2 ) / r 2 = b 3 / r 2 b-d^2b/r^2=b(r^2-d^2)/r^2=b^3/r^2 b − d 2 b / r 2 = b ( r 2 − d 2 ) / r 2 = b 3 / r 2 である。A 1 = R 0 Q 0 + c I A_1=R_0Q_0+cI A 1 = R 0 Q 0 + c I とd + c = a d+c=a d + c = a から主張の式を得る。d ≠ 0 d\ne0 d = 0 ならばr 2 ≥ d 2 r^2\ge d^2 r 2 ≥ d 2 であるから∣ ( A 1 ) 21 ∣ = ∣ b ∣ 3 / r 2 ≤ ∣ b ∣ 3 / d 2 \lvert(A_1)_{21}\rvert=\lvert b\rvert^3/r^2\le\lvert b\rvert^3/d^2 ∣( A 1 ) 21 ∣ = ∣ b ∣ 3 / r 2 ≤ ∣ b ∣ 3 / d 2 である。▨
問題 7.2. a , c , β ∈ R a,c,\beta\in\R a , c , β ∈ R 、a ≤ c a\le c a ≤ c とし、T : = ( a β β c ) T:=\begin{pmatrix}a&\beta\\\beta&c\end{pmatrix} T := ( a β β c ) 、T ′ : = diag ( a , c ) T':=\operatorname{diag}(a,c) T ′ := diag ( a , c ) と置く。λ k ( ⋅ ) \lambda_k(\cdot) λ k ( ⋅ ) を定理 4.3 の記号とする。a = c a=c a = c ならば∣ λ k ( T ) − λ k ( T ′ ) ∣ = ∣ β ∣ \lvert\lambda_k(T)-\lambda_k(T')\rvert=\lvert\beta\rvert ∣ λ k ( T ) − λ k ( T ′ )∣ = ∣ β ∣ (k = 1 , 2 k=1,2 k = 1 , 2 )であり、a < c a<c a < c ならば∣ λ k ( T ) − λ k ( T ′ ) ∣ ≤ β 2 / ( c − a ) \lvert\lambda_k(T)-\lambda_k(T')\rvert\le\beta^2/(c-a) ∣ λ k ( T ) − λ k ( T ′ )∣ ≤ β 2 / ( c − a ) (k = 1 , 2 k=1,2 k = 1 , 2 )であることを示せ。
解答. g : = ( c − a ) / 2 ≥ 0 g:=(c-a)/2\ge0 g := ( c − a ) /2 ≥ 0 、m : = ( a + c ) / 2 m:=(a+c)/2 m := ( a + c ) /2 と置く。det ( t I − T ) = ( t − m ) 2 − g 2 − β 2 \det(tI-T)=(t-m)^2-g^2-\beta^2 det ( t I − T ) = ( t − m ) 2 − g 2 − β 2 であるからλ 1 ( T ) = m − g 2 + β 2 \lambda_1(T)=m-\sqrt{g^2+\beta^2} λ 1 ( T ) = m − g 2 + β 2 、λ 2 ( T ) = m + g 2 + β 2 \lambda_2(T)=m+\sqrt{g^2+\beta^2} λ 2 ( T ) = m + g 2 + β 2 であり、λ 1 ( T ′ ) = a = m − g \lambda_1(T')=a=m-g λ 1 ( T ′ ) = a = m − g 、λ 2 ( T ′ ) = c = m + g \lambda_2(T')=c=m+g λ 2 ( T ′ ) = c = m + g である。したがってk = 1 , 2 k=1,2 k = 1 , 2 について
∣ λ k ( T ) − λ k ( T ′ ) ∣ = g 2 + β 2 − g \lvert\lambda_k(T)-\lambda_k(T')\rvert=\sqrt{g^2+\beta^2}-g ∣ λ k ( T ) − λ k ( T ′ )∣ = g 2 + β 2 − g である。a = c a=c a = c ならばg = 0 g=0 g = 0 であり、右辺は∣ β ∣ \lvert\beta\rvert ∣ β ∣ である。a < c a<c a < c ならばg > 0 g>0 g > 0 であり、右辺はβ 2 / ( g 2 + β 2 + g ) ≤ β 2 / ( 2 g ) = β 2 / ( c − a ) \beta^2/\bigl(\sqrt{g^2+\beta^2}+g\bigr)\le\beta^2/(2g)=\beta^2/(c-a) β 2 / ( g 2 + β 2 + g ) ≤ β 2 / ( 2 g ) = β 2 / ( c − a ) である。▨