16장. 고윳값과 대각화

고유벡터로 좌표를 잡으면 행렬이 대각행렬(대각선에만 수가 있는 행렬)이 됩니다. 그러면 행렬을 100번 곱하는 것도 대각선의 수를 100제곱하는 것으로 끝납니다. 이 장에서는 고윳값을 특성다항식으로 구하는 방법과 대각화가 가능한 조건을 다루고, 피보나치 수열과 인구 모델에 적용합니다.

16.1 행렬을 가장 단순한 모습으로

질문. 7장에서 $A$의 고유벡터를 알면 $A^k$를 쉽게 구할 수 있었습니다. 이 계산을 행렬 하나의 식으로 정리할 수 있을까요? 그리고 그 방법이 언제 통하고, 언제 통하지 않을까요?

대각행렬은 가장 단순한 행렬입니다. 각 축 방향으로 따로따로 늘이기만 하므로 거듭제곱도 역행렬도 즉시 계산됩니다. 이 장의 목표는 주어진 $A$를 고유벡터들로 이루어진 좌표계에서 보아 대각행렬로 만드는 것, 즉 대각화입니다.

16.2 특성다항식

7장에서 본 대로 $\lambda$가 고윳값인 것은 $A - \lambda I$가 특이인 것, 즉 $\det(A - \lambda I) = 0$인 것과 같습니다. 이제 15장의 행렬식이 있으므로 $n \times n$에서도 이 판정을 쓸 수 있습니다(정리 15.2(8)).

정의 16.1 (특성다항식). $n \times n$ 행렬 $A$에 대해 $p(\lambda) = \det(A - \lambda I)$를 $A$의 특성다항식(characteristic polynomial)이라 합니다.

큰 공식(정리 15.5)에서 각 항은 각 행에서 하나씩 성분을 고른 곱이고, $\lambda$는 대각성분에만 있으므로 $p(\lambda)$는 $\lambda$의 $n$차 다항식입니다. 최고차항은 대각성분의 곱 $(a_{11} - \lambda) \cdots (a_{nn} - \lambda)$에서만 나와 $(-1)^n\lambda^n$입니다.

23장에서 증명할 대수학의 기본정리에 의해 $n$차 다항식은 복소수 범위에서 (중복을 세어) 정확히 $n$개의 근을 갖습니다. 따라서 모든 $n \times n$ 행렬은 복소수 범위에서 $n$개의 고윳값을 갖습니다.

정리 16.2 (대각합과 행렬식). $A$의 고윳값을 (중복을 세어) $\lambda_1, \ldots, \lambda_n$이라 하면

증명. $p(\lambda) = (\lambda_1 - \lambda)(\lambda_2 - \lambda) \cdots (\lambda_n - \lambda)$로 인수분해됩니다(최고차항이 $(-1)^n\lambda^n$이므로). $\lambda = 0$을 넣으면 $\det A = p(0) = \lambda_1 \cdots \lambda_n$. $\lambda^{n-1}$의 계수를 비교합시다. 오른쪽에서는 $(-1)^{n-1}(\lambda_1 + \cdots + \lambda_n)$입니다. 왼쪽 $\det(A - \lambda I)$의 큰 공식에서 $\lambda^{n-1}$이 나오려면 $\lambda$를 $n - 1$개 포함해야 하는데, 대각이 아닌 성분을 하나라도 고르면 그 행과 열의 대각성분 두 개를 못 고르게 되어 $\lambda$가 최대 $n - 2$개입니다. 따라서 대각 곱 항에서만 나오고, 그 계수는 $(-1)^{n-1}(a_{11} + \cdots + a_{nn})$입니다. ■

예제 16.3. $K = \begin{bmatrix} 2 & -1 & 0 \\ -1 & 2 & -1 \\ 0 & -1 & 2 \end{bmatrix}$ (예제 9.5의 행렬). 첫째 행으로 전개하면

고윳값은 $\lambda = 2$, $2 \pm \sqrt2$입니다. 검산: 합 $6 = \operatorname{tr} K$, 곱 $2(4 - 2) = 4 = \det K$. 각 고윳값에 대해 $(K - \lambda I)\mathbf{x} = \mathbf{0}$을 풀면 고유벡터

세 고유벡터가 서로 수직입니다. 우연이 아닙니다. $K$가 대칭이기 때문이며 17장의 주제입니다.

예제 16.4. 삼각행렬의 고윳값은 대각성분입니다. $A - \lambda I$도 삼각이므로 $\det(A - \lambda I) = (a_{11} - \lambda) \cdots (a_{nn} - \lambda)$이기 때문입니다.

주의. 소거는 고윳값을 바꿉니다. 8장의 행 연산은 행렬식과 영공간을 보존하지만 고윳값은 보존하지 않습니다. $U$의 대각성분(피벗)은 $A$의 고윳값이 아닙니다. 고윳값의 곱만 피벗의 곱과 같을 뿐입니다(둘 다 $\pm\det A$).

▶ 문제 16.1–16.4

16.3 대각화

정리 16.5 (대각화). $n \times n$ 행렬 $A$가 일차독립인 고유벡터 $\mathbf{x}_1, \ldots, \mathbf{x}_n$을 가지면 (대응하는 고윳값 $\lambda_1, \ldots, \lambda_n$)

증명. $AX$의 제$j$열은 $A\mathbf{x}_j = \lambda_j\mathbf{x}_j$이고, $X\Lambda$의 제$j$열도 $\lambda_j\mathbf{x}_j$입니다(정리 5.5(2)). 따라서 $AX = X\Lambda$. $X$는 열이 독립이므로 가역이고, 오른쪽에 $X^{-1}$을 곱합니다. ■

이런 $A$를 대각화 가능(diagonalizable)하다고 합니다. $X^{-1}AX = \Lambda$로 읽으면 이렇습니다: 고유벡터를 기저로 하는 좌표로 바꾸고($X^{-1}$), 대각행렬을 적용하고($\Lambda$), 원래 좌표로 돌아옵니다($X$). 고유벡터 좌표에서는 $A$가 축마다 따로 늘이는 대각행렬로 보입니다.

예제 16.6. $A = \begin{bmatrix} 4 & -2 \\ 1 & 1 \end{bmatrix}$의 고윳값은 3, 2이고 고유벡터는 $(2, 1)$, $(1, 1)$입니다(문제 7.2).

확인: $X\Lambda = \begin{bmatrix} 6 & 2 \\ 3 & 2 \end{bmatrix}$, 여기에 $X^{-1}$을 곱하면 $\begin{bmatrix} 6 - 2 & -6 + 4 \\ 3 - 2 & -3 + 4 \end{bmatrix} = A$.

정리 16.7 (서로 다른 고윳값의 고유벡터는 독립입니다). $\lambda_1, \ldots, \lambda_k$가 서로 다른 고윳값이고 $\mathbf{x}_i$가 각각의 고유벡터이면 $\mathbf{x}_1, \ldots, \mathbf{x}_k$는 일차독립입니다.

증명. 종속이라 가정하고, 종속인 가장 짧은 부분 목록을 고릅시다. 번호를 다시 매겨 $c_1\mathbf{x}_1 + \cdots + c_m\mathbf{x}_m = \mathbf{0}$ (모든 $c_i \ne 0$, $m$ 최소)라 합시다. $A$를 곱하면 $\sum c_i\lambda_i\mathbf{x}_i = \mathbf{0}$, $\lambda_m$을 곱하면 $\sum c_i\lambda_m\mathbf{x}_i = \mathbf{0}$. 빼면

계수 $c_i(\lambda_i - \lambda_m) \ne 0$이므로 길이 $m - 1$인 종속 관계가 생겨 $m$의 최소성에 모순. ($m = 1$이면 $c_1\mathbf{x}_1 = \mathbf{0}$, $\mathbf{x}_1 \ne \mathbf{0}$이므로 $c_1 = 0$으로 모순.) ■

따름정리 16.8 (서로 다른 $n$개의 고윳값). $n \times n$ 행렬이 서로 다른 고윳값 $n$개를 가지면 대각화 가능합니다.

대부분의 행렬은 고윳값이 모두 다르므로 대각화 가능합니다. 문제는 고윳값이 겹칠 때입니다(16.5절).

▶ 문제 16.5–16.7

16.4 거듭제곱과 차분방정식

$A = X\Lambda X^{-1}$이면

가운데 $X^{-1}X$가 상쇄됩니다. $\Lambda^k = \operatorname{diag}(\lambda_1^k, \ldots, \lambda_n^k)$은 즉시 계산됩니다.

16.4.1 차분방정식

$\mathbf{u}_{k+1} = A\mathbf{u}_k$ ($\mathbf{u}_0$ 주어짐)의 해는 $\mathbf{u}_k = A^k\mathbf{u}_0$입니다. 7장의 방법을 대각화로 쓰면 세 단계입니다.

1. $\mathbf{u}_0$를 고유벡터로 씁니다: $\mathbf{u}_0 = c_1\mathbf{x}_1 + \cdots + c_n\mathbf{x}_n$, 즉 $\mathbf{c} = X^{-1}\mathbf{u}_0$.
2. 각 성분에 $\lambda_i^k$를 곱합니다: $\Lambda^k\mathbf{c}$.
3. 다시 더합니다: $\mathbf{u}_k = X\Lambda^k\mathbf{c} = c_1\lambda_1^k\mathbf{x}_1 + \cdots + c_n\lambda_n^k\mathbf{x}_n$.

$k \to \infty$일 때의 행동은 고윳값의 크기가 결정합니다.

• 모든 $\lvert \lambda_i \rvert < 1$이면 $\mathbf{u}_k \to \mathbf{0}$ (안정).
• 어떤 $\lvert \lambda_i \rvert > 1$이고 그 성분 $c_i \ne 0$이면 $\mathbf{u}_k$는 발산합니다.
• $\lvert \lambda_1 \rvert = 1$이고 나머지가 1보다 작으면 $\mathbf{u}_k \to c_1\lambda_1^k\mathbf{x}_1$. 마르코프 연쇄($\lambda_1 = 1$)의 정상 상태가 이것입니다(문제 7.10).

예제 16.9. 피보나치(7장): $A = \begin{bmatrix} 1 & 1 \\ 1 & 0 \end{bmatrix}$, $\lambda = \varphi, \psi$. $\lvert \varphi \rvert > 1 > \lvert \psi \rvert$이므로 $\mathbf{u}_k \approx c_1\varphi^k\mathbf{x}_1$, 피보나치 수는 매 단계 약 1.618배씩 커집니다.

▶ 문제 16.8–16.9

16.5 대각화할 수 없는 행렬

정의 16.10 (대수적 중복도와 기하적 중복도). 고윳값 $\lambda_0$에 대해

• 특성다항식에서 $(\lambda_0 - \lambda)$가 몇 번 인수로 나오는지를 $\lambda_0$의 대수적 중복도(algebraic multiplicity, AM),
• $\dim N(A - \lambda_0 I)$ (독립인 고유벡터의 개수)를 기하적 중복도(geometric multiplicity, GM)

라 합니다. 언제나 $1 \le \text{GM} \le \text{AM}$입니다(24장에서 증명).

$A$가 대각화 가능한 것은 모든 고윳값에서 GM = AM인 것과 동치입니다. 이 경우에만 고유벡터가 $n$개 모입니다. 하나라도 GM < AM이면 고유벡터가 모자라 $X$를 만들 수 없습니다.

예제 16.11.

• $I_2$: $\lambda = 1$, AM = 2, GM = 2 (모든 벡터가 고유벡터). 대각화 가능(이미 대각).
• $S = \begin{bmatrix} 1 & 1 \\ 0 & 1 \end{bmatrix}$: $\lambda = 1$, AM = 2, GM $= \dim N\left(\begin{bmatrix} 0 & 1 \\ 0 & 0 \end{bmatrix}\right) = 1$. 대각화 불가능.

두 행렬은 특성다항식이 $(1 - \lambda)^2$으로 같습니다. 고윳값만으로는 대각화 가능성을 알 수 없습니다.

층밀림 $S$는 7장의 그림 7.2(b)처럼 고유한 방향이 하나뿐입니다. 이런 행렬에 대해서는 대각행렬 대신 “거의 대각”인 조르당 형식이 최선입니다(27장). 예를 들어 $S$ 자체가 이미 조르당 형식입니다.

중요한 사실 두 가지를 구별합시다.

• 가역성은 고윳값 0의 유무에 달려 있습니다($\det = \prod\lambda_i$).
• 대각화 가능성은 고유벡터가 충분한지에 달려 있습니다.

둘은 서로 관계가 없습니다. $S$는 가역이지만 대각화 불가능하고, $\begin{bmatrix} 1 & 0 \\ 0 & 0 \end{bmatrix}$은 특이이지만 대각화 가능합니다.

▶ 문제 16.10–16.11

16.6 닮음

정의 16.12 (닮음). 가역행렬 $M$에 대해 $B = M^{-1}AM$이면 $A$와 $B$가 닮았다(similar)고 합니다.

정리 16.13 (닮은 행렬은 같은 고윳값을 갖습니다). 닮은 행렬은 특성다항식이 같습니다. 따라서 고윳값, 대각합, 행렬식이 같습니다.

증명. $\det(M^{-1}AM - \lambda I) = \det\big(M^{-1}(A - \lambda I)M\big) = \det M^{-1}\det(A - \lambda I)\det M = \det(A - \lambda I)$. ■

대각화는 “$A$와 닮은 대각행렬을 찾는 것”입니다. 19장에서 보겠지만, 닮은 행렬은 같은 선형변환을 다른 기저로 본 것입니다. 그래서 고윳값처럼 기저와 무관한 양은 닮음에 의해 변하지 않습니다.

▶ 문제 16.12

16.7 복소 고윳값

실수 행렬이라도 고윳값은 복소수일 수 있습니다. 회전 $R_\theta$의 고윳값은 $\cos\theta \pm i\sin\theta$였습니다(7장).

정리 16.14 (켤레 쌍). 실수 행렬 $A$의 고윳값 $\lambda$가 복소수이고 고유벡터가 $\mathbf{x} \in \mathbb{C}^n$이면, $\bar\lambda$도 고윳값이고 $\bar{\mathbf{x}}$가 그 고유벡터입니다.

증명. $A\mathbf{x} = \lambda\mathbf{x}$의 양변에 켤레를 취하면 $A$가 실수이므로 $A\bar{\mathbf{x}} = \bar\lambda\bar{\mathbf{x}}$. ■

예제 16.15. $R = \begin{bmatrix} 0 & -1 \\ 1 & 0 \end{bmatrix}$. $\lambda = i$: 고유벡터 $(1, -i)$ (문제 7.6). $\lambda = -i$: $(1, i)$. 고윳값이 서로 다르므로 $\mathbb{C}$ 위에서 대각화됩니다.

$R^4 = X\Lambda^4X^{-1} = X\operatorname{diag}(i^4, (-i)^4)X^{-1} = I$. $90^\circ$를 네 번 돌면 제자리입니다.

복소 고윳값 $\lambda = re^{i\theta}$의 크기 $r$은 “늘이는 배율”, 각 $\theta$는 “돌리는 각”입니다. $\mathbf{u}_k = A^k\mathbf{u}_0$은 $r < 1$이면 나선을 그리며 원점으로 빨려 들어가고, $r > 1$이면 나선을 그리며 퍼져 나갑니다. 위 위젯의 “0.9 × 45° 회전”과 “1.1 × 45° 회전”이 그 예입니다.

복소수를 허용하면 모든 행렬이 고윳값을 갖습니다. 그래서 3부의 추상적인 이론은 주로 $\mathbb{C}$ 위에서 전개됩니다(24장). 실수 행렬에 대한 결과는 대칭행렬(17장, 26장)처럼 고윳값이 모두 실수임을 따로 보장할 수 있을 때 얻어집니다.

▶ 문제 16.13

쓰이는 곳. 선형 점화식과 선형 미분방정식의 해, 마르코프 체인의 장기 행동, 진동 문제의 모드 분해가 모두 대각화로 풀립니다. 논문에서 $A = PDP^{-1}$을 보면 '고유벡터 좌표에서는 단순한 늘이기'로 읽으면 됩니다.

이 장의 요약

• 특성다항식 $\det(A - \lambda I)$는 $n$차이고, 복소수 범위에서 $n$개의 근(고윳값)을 갖습니다. $\sum\lambda_i = \operatorname{tr} A$, $\prod\lambda_i = \det A$.
• 독립인 고유벡터가 $n$개면 $A = X\Lambda X^{-1}$. 서로 다른 고윳값의 고유벡터는 독립입니다.
• $A^k = X\Lambda^kX^{-1}$. $\mathbf{u}_k = \sum c_i\lambda_i^k\mathbf{x}_i$. 크기가 1보다 큰 고윳값이 있으면 발산.
• 대각화 가능 $\iff$ 모든 고윳값에서 GM = AM. 가역성과 대각화 가능성은 무관합니다.
• 닮은 행렬은 고윳값, 대각합, 행렬식이 같습니다.
• 실수 행렬의 복소 고윳값은 켤레 쌍으로 나옵니다. 크기는 배율, 각은 회전.

문제

6
4
1
3
2
-1
1
1
-1

14
13
13
14

0.6
0.4

수렴
발산
둘 다 아님

2
1
X
2
2
O

1.414
16
0
0
16