京都大学 情報学研究科 システム科学専攻 2022年8月実施 数学【I】
Author
机智的若叶 , 祭音Myyura
Description
ベクトル x x x に関する m m m 元連立一次方程式 A x = b A x = b A x = b を反復法によって解くことを考える。
そのために、m m m 次正方行列 A A A を P − Q P - Q P − Q に分解し、方程式を P x = Q x + b P x = Q x + b P x = Q x + b のように書き換え、適当な初期値 x 0 x_0 x 0 を与えて、x n + 1 = Q x n + b x_{n+1} = Q x_n + b x n + 1 = Q x n + b 、つまり、x n + 1 = P − 1 ( Q x n + b ) x_{n+1} = P^{-1} (Q x_n + b) x n + 1 = P − 1 ( Q x n + b ) を繰り返し計算する。
特に、行列 A A A の対角要素からなる対角行列を P P P とする反復法をヤコビ法と呼ぶ。以下の設問に答えよ。
ただし、m m m 次正方行列 Z Z Z の逆行列を Z − 1 Z^{-1} Z − 1 、転置を Z T Z^T Z T 、スペクトル半径を ρ ( Z ) \rho (Z) ρ ( Z ) と表す。
ρ ( Z ) \rho (Z) ρ ( Z ) は Z Z Z の固有値 λ i \lambda_i λ i ( i = 1 , … , m ) (i = 1, \ldots, m) ( i = 1 , … , m ) の絶対値の最大値 (max i ∣ λ i ∣ \max_i |\lambda_i| max i ∣ λ i ∣ ) に等しい。
(i) P − 1 P^{-1} P − 1 が存在するとき、P x = Q x + b P x = Q x + b P x = Q x + b と x n + 1 = Q x n + b x_{n+1} = Q x_n + b x n + 1 = Q x n + b から、
x − x n + 1 = P − 1 Q ( x − x n ) x - x_{n+1} = P^{-1} Q (x - x_n) x − x n + 1 = P − 1 Q ( x − x n )
となる。
P − 1 Q P^{-1} Q P − 1 Q の固有値がすべて異なるものとして、n → ∞ n \to \infty n → ∞ のとき、任意の x 0 x_0 x 0 に対して x n x_n x n が方程式の解に収束するために ρ ( P − 1 Q ) \rho (P^{-1} Q) ρ ( P − 1 Q ) が満たすべき必要十分条件をその理由とともに答えよ。
以下の設問では、次の方程式をヤコビ法を用いて解く場合について考える。
A x = b , A = [ 12 − 4 3 − 3 4 0 3 − 2 4 ] , b = [ 5 1 − 3 ] (1) A x = b, \quad A = \begin{bmatrix} 12 & -4 & 3 \\ -3 & 4 & 0 \\ 3 & -2 & 4 \end{bmatrix}, \quad b = \begin{bmatrix} 5 \\ 1 \\ -3 \end{bmatrix} \tag{1} A x = b , A = 12 − 3 3 − 4 4 − 2 3 0 4 , b = 5 1 − 3 ( 1 )
(ii) P P P , Q Q Q , P − 1 P^{-1} P − 1 を求めよ。
(iii) P − 1 Q P^{-1} Q P − 1 Q の固有値をすべて求めよ。さらに、P − 1 Q P^{-1} Q P − 1 Q のスペクトル半径を求めよ。
(iv) x 0 = [ 0 0 0 ] x_0 = \begin{bmatrix} 0 \\ 0 \\ 0 \end{bmatrix} x 0 = 0 0 0 として、x 1 x_1 x 1 を求めよ。
(v) A − 1 A^{-1} A − 1 を求めてから、方程式 (1) の解を求めよ。
行列 A A A は n × n n \times n n × n の実対称行列で、その要素を a i j ( i , j = 1 , … , n ) a_{ij} (i, j = 1, \ldots, n) a ij ( i , j = 1 , … , n ) と書く。さらに、すべての要素が非負であり、
∑ j = 1 n a i j = 1 , i = 1 , … , n \sum_{j=1}^n a_{ij} = 1, \quad i = 1, \ldots, n j = 1 ∑ n a ij = 1 , i = 1 , … , n
を満たすと仮定する。以下の設問に答えよ。ただし、u u u はすべての要素が1である n n n 次元ベクトルとする。
(i) A u = u A u = u A u = u を示せ。
(ii) 任意の零ベクトルでない n n n 次元実ベクトル x x x に対して、x x x の要素の中で絶対値が最大のものを x m x_m x m としたとき、任意の i ∈ { 1 , … , n } i \in \{1, \ldots, n\} i ∈ { 1 , … , n } において
∣ ∑ j = 1 n a i j x j ∣ ≤ ∣ x m ∣ \left| \sum_{j=1}^n a_{ij} x_j \right| \leq |x_m| j = 1 ∑ n a ij x j ≤ ∣ x m ∣
が成り立つことを示せ。
(iii) A A A の任意の固有値 λ \lambda λ に対して、∣ λ ∣ ≤ 1 |\lambda| \leq 1 ∣ λ ∣ ≤ 1 が成り立つことを示せ。
(iv) n = 2 n = 2 n = 2 とし、A A A は次の形
A = [ 1 − α α α 1 − α ] , 0 < α ≤ 1 A = \begin{bmatrix}
1 - \alpha & \alpha \\
\alpha & 1 - \alpha
\end{bmatrix}, \quad 0 < \alpha \leq 1 A = [ 1 − α α α 1 − α ] , 0 < α ≤ 1
を取るとする。
設問 (i) から、A A A は固有値 λ 1 = 1 \lambda_1 = 1 λ 1 = 1 と対応する固有ベクトル u = u / 2 u = u / \sqrt{2} u = u / 2 を持つ。
もう一方の固有値 λ 2 \lambda_2 λ 2 と対応する固有ベクトル w w w を求めよ。ただし w w w は正規化せよ。
(v) 設問 (iv) の A A A に対し、その自然数乗 A k A^k A k を考える。極限
B = lim k → ∞ A k B = \lim_{k \to \infty} A^k B = k → ∞ lim A k
が存在する α \alpha α の範囲を答えよ。
また、極限が存在する場合には、その極限 B B B を求めよ。
题目描述
考虑用迭代法求解关于向量 x x x 的 m m m 元线性方程组 A x = b Ax=b A x = b 。把 m m m 阶方阵分解为 A = P − Q A=P-Q A = P − Q ,将方程改写为
给定适当初值 x 0 x_0 x 0 后,题面将迭代写为 x n + 1 = Q x n + b x_{n+1}=Qx_n+b x n + 1 = Q x n + b ,即反复计算
x n + 1 = P − 1 ( Q x n + b ) . x_{n+1}=P^{-1}(Qx_n+b). x n + 1 = P − 1 ( Q x n + b ) .
特别地,取 P P P 为由 A A A 的对角元素组成的对角矩阵时,该方法称为 Jacobi 法。以下 Z − 1 Z^{-1} Z − 1 、Z T Z^{\mathrm T} Z T 、ρ ( Z ) \rho(Z) ρ ( Z ) 分别表示 m m m 阶方阵 Z Z Z 的逆、转置和谱半径;ρ ( Z ) \rho(Z) ρ ( Z ) 等于 Z Z Z 的特征值绝对值的最大值。
(i)当 P − 1 P^{-1} P − 1 存在时,由
P x = Q x + b , x n + 1 = P − 1 ( Q x n + b ) Px=Qx+b,\qquad
x_{n+1}=P^{-1}(Qx_n+b) P x = Q x + b , x n + 1 = P − 1 ( Q x n + b )
可得
x − x n + 1 = P − 1 Q ( x − x n ) . x-x_{n+1}=P^{-1}Q(x-x_n). x − x n + 1 = P − 1 Q ( x − x n ) .
假设 P − 1 Q P^{-1}Q P − 1 Q 的特征值互不相同。给出并说明 ρ ( P − 1 Q ) \rho(P^{-1}Q) ρ ( P − 1 Q ) 必须满足的充要条件,使 n → ∞ n\to\infty n → ∞ 时 x n x_n x n 对任意初值 x 0 x_0 x 0 都收敛到方程的解。
以下使用 Jacobi 法求解
A x = b , A = [ 12 − 4 3 − 3 4 0 3 − 2 4 ] , b = [ 5 1 − 3 ] . (1) Ax=b,\qquad
A=
\begin{bmatrix}
12&-4&3\\
-3&4&0\\
3&-2&4
\end{bmatrix},
\qquad
b=
\begin{bmatrix}
5\\1\\-3
\end{bmatrix}.
\tag{1} A x = b , A = 12 − 3 3 − 4 4 − 2 3 0 4 , b = 5 1 − 3 . ( 1 )
(ii)求 P , Q , P − 1 P,Q,P^{-1} P , Q , P − 1 。
(iii)求 P − 1 Q P^{-1}Q P − 1 Q 的全部特征值及谱半径。
(iv)取
x 0 = [ 0 0 0 ] , x_0=
\begin{bmatrix}0\\0\\0\end{bmatrix}, x 0 = 0 0 0 ,
求 x 1 x_1 x 1 。
(v)先求 A − 1 A^{-1} A − 1 ,再求方程(1)的解。
设 A A A 为 n × n n\times n n × n 实对称矩阵,元素为 a i j a_{ij} a ij 。假设所有元素非负,且
∑ j = 1 n a i j = 1 , i = 1 , … , n . \sum_{j=1}^na_{ij}=1,\qquad i=1,\ldots,n. j = 1 ∑ n a ij = 1 , i = 1 , … , n .
令 u u u 为所有分量均为 1 的 n n n 维向量。
(i)证明 A u = u Au=u A u = u 。
(ii)对任意非零实向量 x x x ,令 x m x_m x m 为其分量中绝对值最大的一个。证明对任意 i ∈ { 1 , … , n } i\in\{1,\ldots,n\} i ∈ { 1 , … , n } ,
∣ ∑ j = 1 n a i j x j ∣ ≤ ∣ x m ∣ . \left|\sum_{j=1}^na_{ij}x_j\right|
\leq|x_m|. j = 1 ∑ n a ij x j ≤ ∣ x m ∣.
(iii)证明 A A A 的任意特征值 λ \lambda λ 都满足 ∣ λ ∣ ≤ 1 |\lambda|\leq1 ∣ λ ∣ ≤ 1 。
(iv)令 n = 2 n=2 n = 2 且
A = [ 1 − α α α 1 − α ] , 0 < α ≤ 1. A=
\begin{bmatrix}
1-\alpha&\alpha\\
\alpha&1-\alpha
\end{bmatrix},
\qquad0<\alpha\leq1. A = [ 1 − α α α 1 − α ] , 0 < α ≤ 1.
由第(i)问可知 A A A 有特征值 λ 1 = 1 \lambda_1=1 λ 1 = 1 ,对应的归一化特征向量为 u / 2 u/\sqrt2 u / 2 。求另一个特征值 λ 2 \lambda_2 λ 2 及其归一化特征向量 w w w 。
(v)对第(iv)问的矩阵 A A A 考虑自然数幂 A k A^k A k 。求使极限
B = lim k → ∞ A k B=\lim_{k\to\infty}A^k B = k → ∞ lim A k
存在的 α \alpha α 范围;在极限存在时求 B B B 。
Jacobi 迭代法 :从矩阵分裂构造迭代矩阵并执行首步迭代。
谱半径与迭代收敛 :利用误差递推和特征分解给出任意初值收敛的充要条件。
随机矩阵的谱性质 :由非负行和为 1 证明单位特征值及其他特征值的模界。
二阶对称矩阵幂极限 :通过正交谱分解判断幂序列是否收敛并计算极限投影。
Kai
(i)
ρ ( P − 1 Q ) ≤ 1 \rho(P^{-1}Q) \le 1 ρ ( P − 1 Q ) ≤ 1
(ii)
P = [ 12 0 0 0 4 0 0 0 4 ] Q = P − A = [ 0 4 − 3 3 0 0 − 3 2 0 ] P − 1 = [ 1 12 0 0 0 1 4 0 0 0 1 4 ] \begin{aligned}
P &= \begin{bmatrix} 12 & 0 & 0 \\ 0 & 4 & 0 \\ 0 & 0 & 4 \end{bmatrix} \\
Q &= P - A = \begin{bmatrix} 0 & 4 & -3 \\ 3 & 0 & 0 \\ -3 & 2 & 0 \end{bmatrix} \\
P^{-1} &= \begin{bmatrix} \frac{1}{12} & 0 & 0 \\ 0 & \frac{1}{4} & 0 \\ 0 & 0 & \frac{1}{4} \end{bmatrix} \\
\end{aligned} P Q P − 1 = 12 0 0 0 4 0 0 0 4 = P − A = 0 3 − 3 4 0 2 − 3 0 0 = 12 1 0 0 0 4 1 0 0 0 4 1
(iii)
P − 1 Q P^{-1}Q P − 1 Q の固有値を λ \lambda λ とすると、
0 = det ( t I − P − 1 Q ) = λ 3 − 7 16 λ + 3 32 = 1 32 ( 2 λ − 1 ) ( 4 λ − 1 ) ( 4 λ + 3 ) ∴ λ = 1 2 , 1 4 , − 3 4 \begin{aligned}
0 &= \text{det}(tI - P^{-1}Q) \\
&= \lambda^{3} - \frac{7}{16} \lambda + \frac{3}{32} \\
&= \frac{1}{32} (2 \lambda - 1) (4 \lambda - 1) (4 \lambda + 3) \\
\therefore \ \
\lambda &= \frac{1}{2}, \frac{1}{4}, -\frac{3}{4}
\end{aligned} 0 ∴ λ = det ( t I − P − 1 Q ) = λ 3 − 16 7 λ + 32 3 = 32 1 ( 2 λ − 1 ) ( 4 λ − 1 ) ( 4 λ + 3 ) = 2 1 , 4 1 , − 4 3
である。よって、
ρ ( P − 1 Q ) = 3 4 \rho(P^{-1}Q) = \frac{3}{4} ρ ( P − 1 Q ) = 4 3
(iv)
x 1 = P − 1 b = [ 5 12 1 4 − 3 4 ] \begin{aligned}
x_1 = P^{-1}b = \begin{bmatrix} \frac{5}{12} \\ \frac{1}{4} \\ -\frac{3}{4} \end{bmatrix}
\end{aligned} x 1 = P − 1 b = 12 5 4 1 − 4 3
(v)
x = [ 1 1 − 1 ] \begin{aligned}
x = \begin{bmatrix} 1 \\ 1 \\ -1 \end{bmatrix}
\end{aligned} x = 1 1 − 1
(i)
a i j a_{ij} a ij は行列 A A A の 第 i i i 行目の第 j j j 列目の成分とおくと、
A u = [ ∑ j = 1 n a 1 j , ∑ j = 1 n a 2 j , … ∑ j = 1 n a n j ] T = u \begin{aligned}
Au = \big[\sum_{j=1}^n a_{1j}, \sum_{j=1}^n a_{2j}, \ldots \sum_{j=1}^n a_{nj} \big]^T = u
\end{aligned} A u = [ j = 1 ∑ n a 1 j , j = 1 ∑ n a 2 j , … j = 1 ∑ n a nj ] T = u
である。
(ii)
すべての要素が非負であり、
∣ ∑ j = 1 n a i j x j ∣ ≤ ∑ j = 1 n a i j ∣ x j ∣ ≤ ∑ j = 1 n a i j ∣ x m ∣ = ∣ x m ∣ \begin{aligned}
|\sum_{j=1}^n a_{ij} x_j| \le \sum_{j=1}^n a_{ij}|x_j| \le \sum_{j=1}^n a_{ij} |x_m| = |x_m|
\end{aligned} ∣ j = 1 ∑ n a ij x j ∣ ≤ j = 1 ∑ n a ij ∣ x j ∣ ≤ j = 1 ∑ n a ij ∣ x m ∣ = ∣ x m ∣
(iii)
固有ベクトルを [ x 1 , x 2 , … , x n ] T [x_1, x_2, \ldots, x_n]^T [ x 1 , x 2 , … , x n ] T とする。 任意の x j x_j x j に対して、以下の式が成り立つ。
∣ ∑ j = 1 n a i j x j ∣ = ∣ λ x j ∣ \begin{aligned}
\lvert \sum_{j=1}^n a_{ij} x_j \rvert = |\lambda x_j|
\end{aligned} ∣ j = 1 ∑ n a ij x j ∣ = ∣ λ x j ∣
(ii) より、
∣ ∑ j = 1 n a i j x m ∣ = ∣ λ x m ∣ ≤ ∣ x m ∣ ∴ ∣ λ ∣ ≤ 1 \begin{aligned}
&|\sum_{j=1}^n a_{ij} x_m| = |\lambda x_m| \le |x_m| \\
&\therefore |\lambda| \le 1
\end{aligned} ∣ j = 1 ∑ n a ij x m ∣ = ∣ λ x m ∣ ≤ ∣ x m ∣ ∴ ∣ λ ∣ ≤ 1
(iv)
tr ( A ) = λ 1 + λ 2 = 2 − 2 α ∵ λ 1 = 1 ∴ λ 2 = 1 − 2 α \begin{aligned}
&\text{tr} (A) = \lambda_1 + \lambda_2 = 2 - 2\alpha \\
&\because \lambda_1 = 1\ \ \ \therefore \lambda_2 = 1-2\alpha
\end{aligned} tr ( A ) = λ 1 + λ 2 = 2 − 2 α ∵ λ 1 = 1 ∴ λ 2 = 1 − 2 α
( A − ( 1 − α ) I ) w = 0 ⇒ w = [ 1 2 , − 1 2 ] T \begin{aligned}
(A - (1 - \alpha)I) w = 0 \Rightarrow w = [\frac{1}{\sqrt{2}}, -\frac{1}{\sqrt{2}}]^T
\end{aligned} ( A − ( 1 − α ) I ) w = 0 ⇒ w = [ 2 1 , − 2 1 ] T
(v)
α ≠ − 1 \alpha \neq -1 α = − 1
P − 1 A P = Λ = [ 1 0 0 1 − 2 α ] \begin{aligned}
P^{-1}AP = \Lambda = \begin{bmatrix} 1 & 0 \\ 0 & 1-2 \alpha \end{bmatrix}
\end{aligned} P − 1 A P = Λ = [ 1 0 0 1 − 2 α ]
P = [ v , w ] = [ 1 2 − 1 2 1 2 1 2 ] \begin{aligned}
P = [v,w] = \begin{bmatrix} \frac{1}{\sqrt{2}} & -\frac{1}{\sqrt{2}} \\ \frac{1}{\sqrt{2}} & \frac{1}{\sqrt{2}} \end{bmatrix}
\end{aligned} P = [ v , w ] = [ 2 1 2 1 − 2 1 2 1 ]
P − 1 = [ 1 2 1 2 = 1 2 1 2 ] \begin{aligned}
P^{-1} = \begin{bmatrix} \frac{1}{\sqrt{2}} & \frac{1}{\sqrt{2}} \\ =\frac{1}{\sqrt{2}} & \frac{1}{\sqrt{2}} \end{bmatrix}
\end{aligned} P − 1 = [ 2 1 = 2 1 2 1 2 1 ]
B = [ 1 2 − 1 2 1 2 1 2 ] \begin{aligned}
B = \begin{bmatrix} \frac{1}{2} & -\frac{1}{2} \\ \frac{1}{2} & \frac{1}{2} \end{bmatrix}
\end{aligned} B = [ 2 1 2 1 − 2 1 2 1 ]