15장. 행렬식

6장에서 2×2 행렬식을 넓이 배율로 보았습니다. 이 장에서는 n×n 행렬의 행렬식을 세 가지 기본 성질로 정의하고, 계산법(소거, 여인수 전개)과 곱의 법칙 det(AB) = det(A)det(B)를 증명합니다. 행렬식은 가역성 판정, 부피 계산, 확률밀도의 변수 변환(야코비안)에 쓰입니다.

15.1 성질로 정의하기

질문. 6장에서 $2 \times 2$와 $3 \times 3$ 행렬식을 공식으로 정의하고 “부피 배율”이라고 해석했습니다. $n \times n$에서는 어떻게 정의해야 할까요? 공식을 먼저 쓰고 성질을 증명할까, 아니면 부피가 가져야 할 성질을 먼저 정하고 공식을 이끌어 낼까요?

이 장은 두 번째 길을 갑니다. 부피라면 마땅히 만족해야 할 세 가지 성질로 행렬식을 정의합니다. 그러면 다른 모든 성질과 공식이 그 세 가지에서 나옵니다. 그리고 그 결과가 6장의 공식과 일치함을 확인합니다. 이 방식은 28장에서 다시 쓰이는데, 거기서는 행렬 없이 “교대 다중선형 형식”으로 행렬식을 정의합니다.

15.2 세 가지 기본 성질

$n \times n$ 행렬 $A$의 행들을 $\mathbf{r}_1, \ldots, \mathbf{r}_n$이라 합시다. $\det A$는 다음 세 성질을 만족하는 수입니다.

정의 15.1 (행렬식의 기본 성질).

1. $\det I = 1$.
2. 두 행을 바꾸면 부호가 바뀝니다.
3. 각 행에 대해 따로따로 선형입니다. 즉 다른 행들을 고정하면

이 세 성질을 만족하는 함수가 존재하고 유일하다는 것은 15.4절의 공식으로 확인합니다. 우선은 이런 함수가 있다고 믿고 결과를 끌어냅시다.

직관. 행들이 만드는 평행육면체의 (부호 있는) 부피를 생각하면 세 성질이 자연스럽습니다.

• (1) 단위정육면체의 부피는 1입니다.
• (2) 두 모서리의 순서를 바꾸면 방향(오른손/왼손)이 바뀝니다(6.3절).
• (3) 한 모서리를 $c$배 하면 부피도 $c$배입니다. 한 모서리를 $\mathbf{r} + \mathbf{r}'$로 바꾸면, 나머지 모서리가 만드는 밑면은 그대로이고 높이가 더해지므로 부피도 더해집니다.

성질 (3)은 한 행씩 선형이라는 뜻입니다. $\det(A + B) = \det A + \det B$라는 뜻이 아닙니다. 실제로 $\det(2A) = 2^n\det A$입니다(모든 행에서 2가 하나씩 나옵니다).

15.3 기본 성질에서 나오는 것들

정리 15.2 (행렬식의 성질). $n \times n$ 행렬에 대하여

4. 두 행이 같으면 $\det A = 0$.
5. 한 행에서 다른 행의 배수를 빼도 $\det A$는 변하지 않습니다.
6. 영행이 있으면 $\det A = 0$.
7. $A$가 삼각행렬이면 $\det A$는 대각성분의 곱입니다.
8. $A$가 특이이면 $\det A = 0$이고, 가역이면 $\det A \ne 0$입니다.

증명. (4) 같은 두 행을 바꾸면 행렬은 그대로인데 (2)에 의해 부호가 바뀝니다. $\det A = -\det A$이므로 0.

(5) (3)에 의해 $\det(\ldots, \mathbf{r}_i - \ell\mathbf{r}_j, \ldots, \mathbf{r}_j, \ldots) = \det(\ldots, \mathbf{r}_i, \ldots, \mathbf{r}_j, \ldots) - \ell\det(\ldots, \mathbf{r}_j, \ldots, \mathbf{r}_j, \ldots)$이고, 마지막 항은 (4)에 의해 0.

(6) 영행에 (3)을 $c = 0$으로 쓰면 $\det A = 0 \cdot \det A = 0$.

(7) 위삼각이고 대각성분이 모두 0이 아니면, (5)로 대각선 위를 모두 지워 대각행렬로 만들 수 있습니다(아래 행부터 위로). 대각행렬 $\operatorname{diag}(d_1, \ldots, d_n)$은 (3)으로 각 행에서 $d_i$를 빼내면 $d_1 \cdots d_n\det I = d_1 \cdots d_n$. 대각성분에 0이 있으면, 소거하면 영행이 생기므로 (6)에 의해 0이고, 이것도 대각성분의 곱입니다. 아래삼각도 같습니다.

(8) 소거(교체와 교환)로 $A$를 위삼각 $U$로 만듭니다. (5)에 의해 교체는 행렬식을 바꾸지 않고, (2)에 의해 교환은 부호만 바꾸므로 $\det A = \pm\det U = \pm$(피벗의 곱). 특이이면 피벗이 모자라 $U$의 대각에 0이 생기므로 $\det A = 0$. 가역이면 피벗이 모두 0이 아니므로 $\det A \ne 0$. ■

(8)의 증명은 행렬식을 계산하는 방법이기도 합니다. 8.7절에서 예고한 “$\det A = \pm$피벗의 곱”이 증명되었습니다. 또한 이 증명은 행렬식이 유일하다는 것도 보여 줍니다. 세 성질을 만족하는 함수는 어떤 것이든 소거를 통해 같은 값(피벗의 곱)으로 계산되기 때문입니다.

정리 15.3 (곱과 전치).

9. $\det(AB) = \det A\det B$.
10. $\det A^T = \det A$.

증명. (9) $\det B = 0$이면 $B$가 특이이고, $B\mathbf{x} = \mathbf{0}$인 $\mathbf{x} \ne \mathbf{0}$에 대해 $AB\mathbf{x} = \mathbf{0}$이므로 $AB$도 특이. 양변이 0입니다. $\det B \ne 0$이면 함수 $D(A) = \det(AB)/\det B$를 생각합시다. $AB$의 행은 ($A$의 행)$B$이므로

• $D(I) = \det B/\det B = 1$,
• $A$의 두 행을 바꾸면 $AB$의 두 행이 바뀌므로 $D$의 부호가 바뀐다,
• $A$의 한 행에 대해 선형이면 $AB$의 그 행도 선형으로 변하므로 $D$도 그 행에 대해 선형입니다.

$D$가 세 성질을 만족하므로, 유일성에 의해 $D(A) = \det A$.

(10) $A$가 특이이면 $A^T$도 특이(랭크가 같습니다)이므로 양변이 0. 가역이면 $PA = LU$로 씁니다. $\det P \cdot \det A = \det L\det U = \det U$ ($L$은 대각이 1인 삼각). 전치하면 $A^TP^T = U^TL^T$이고 $\det A^T\det P^T = \det U^T\det L^T = \det U$ (삼각행렬의 전치는 삼각이고 대각이 같습니다). 치환행렬은 $P^T = P^{-1}$이고 $\det P = \pm1$이므로 $\det P^T = 1/\det P = \det P$. 따라서 $\det A^T = \det A$. ■

(10) 덕분에 지금까지 행에 대해 말한 모든 성질이 열에 대해서도 성립합니다. 두 열을 바꾸면 부호가 바뀌고, 각 열에 대해 선형입니다. 6장에서는 열이 만드는 평행사변형의 넓이로 생각했고, 이 장에서는 행으로 생각했는데, 두 관점이 같은 값을 줍니다.

예제 15.4. (9)에서 바로 $\det A^{-1} = 1/\det A$ ($AA^{-1} = I$), 직교행렬은 $\det Q = \pm1$ (문제 14.3), $\det(A^k) = (\det A)^k$가 나옵니다.

▶ 문제 15.1–15.5

15.4 큰 공식

질문. 성질만으로 계산은 할 수 있지만, 성분 $a_{ij}$로 된 명시적인 공식은 무엇일까요?

$2 \times 2$에서 시작합시다. 각 행을 표준기저로 쪼개고 성질 (3)을 씁니다.

첫째와 넷째는 영열이 있어 0입니다. 둘째는 $ad$, 셋째는 행 교환 한 번으로 대각이 되므로 $-bc$입니다. 따라서 $ad - bc$.

같은 방법을 $n \times n$에 쓰면 각 행에서 성분 하나씩을 고른 $n^n$개의 행렬로 쪼개집니다. 그중 같은 열에서 두 번 고른 것은 영열이 생겨 0입니다. 살아남는 것은 각 행에서 서로 다른 열을 고른 것, 즉 열 번호의 순열 $(\sigma(1), \ldots, \sigma(n))$에 대응하는 $n!$개뿐입니다. 각각은 치환행렬에 $a_{1\sigma(1)} \cdots a_{n\sigma(n)}$을 곱한 것입니다.

정리 15.5 (행렬식의 큰 공식).

합은 $\{1, \ldots, n\}$의 모든 순열 $\sigma$ ($n!$개)에 대한 것이고, $\operatorname{sgn}(\sigma) = \det P_\sigma$는 그 순열을 행 교환으로 만들 때 교환 횟수가 짝수이면 $+1$, 홀수이면 $-1$입니다.

예제 15.6. $3 \times 3$에서 순열은 $3! = 6$개입니다.

순열 $(1, 2, 3)$, $(2, 3, 1)$, $(3, 1, 2)$는 짝수(교환 0번, 2번, 2번), 나머지 셋은 홀수입니다. 6.7절의 공식을 전개하면 정확히 이것입니다.

이 공식은 행렬식이 존재한다는 것을 보장합니다. 큰 공식으로 정의한 함수가 성질 (1)–(3)을 만족함은 직접 확인할 수 있습니다(문제 15.7). 그러나 계산에는 쓸모가 없습니다. $n = 20$이면 항이 $20! \approx 2.4 \times 10^{18}$개입니다. 소거로 계산하면 $n^3/3 \approx 2700$번입니다.

▶ 문제 15.6–15.7

15.5 여인수 전개

큰 공식의 항들을 첫째 행의 어느 성분을 골랐는지로 묶으면 더 작은 행렬식들의 합이 됩니다.

정의 15.7 (소행렬식과 여인수). $A$에서 제$i$행과 제$j$열을 지운 $(n - 1) \times (n - 1)$ 행렬을 $M_{ij}$라 합시다. $C_{ij} = (-1)^{i+j}\det M_{ij}$를 $(i, j)$ 여인수(cofactor)라 합니다.

정리 15.8 (여인수 전개). 임의의 행 $i$에 대하여

열에 대해서도 같습니다: $\det A = a_{1j}C_{1j} + \cdots + a_{nj}C_{nj}$.

증명. 첫째 행($i = 1$)을 봅시다. 성질 (3)으로 첫째 행을 $a_{11}\mathbf{e}_1^T + \cdots + a_{1n}\mathbf{e}_n^T$로 쪼개면 $\det A = \sum_j a_{1j}\det A_j$입니다. $A_j$는 첫째 행이 $\mathbf{e}_j^T$인 행렬입니다. $A_j$에서 열 $j$를 첫째 열로 옮기려면 이웃한 열 교환이 $j - 1$번 필요합니다. 그러면 첫째 행이 $(1, 0, \ldots, 0)$이고, 첫째 열의 나머지는 (5)로 지울 수 있어서 $\det A_j = (-1)^{j-1}\det M_{1j} = C_{1j}$입니다. 다른 행 $i$는 그 행을 맨 위로 올리는 데 이웃 교환 $i - 1$번이 필요하므로 부호 $(-1)^{i-1}$이 더 붙어 $(-1)^{i+j}$가 됩니다. 열 전개는 (10)에서 나옵니다. ■

부호 $(-1)^{i+j}$는 체스판 무늬입니다.

0이 많은 행이나 열을 골라 전개하면 계산이 줄어듭니다.

예제 15.9. 대각이 2, 그 위아래가 $-1$인 $n \times n$ 행렬 $K_n$을 생각합시다. 첫째 행으로 전개하면

(두 번째 항의 소행렬식은 첫째 열에 $-1$ 하나만 있으므로 다시 전개했습니다.) $\det K_1 = 2$, $\det K_2 = 3$에서 $\det K_3 = 4$, $\det K_4 = 5$, 일반적으로 $\det K_n = n + 1$입니다. $K_3$은 예제 9.5의 행렬로, 거기서 $\det = 4$를 확인할 수 있습니다.

▶ 문제 15.8–15.10

15.6 크래머 공식과 역행렬 공식

정리 15.10 (크래머 공식). $A$가 가역이면 $A\mathbf{x} = \mathbf{b}$의 해는

입니다. $B_j$는 $A$의 제$j$열을 $\mathbf{b}$로 바꾼 행렬입니다.

증명. 단위행렬의 제$j$열을 $\mathbf{x}$로 바꾼 행렬을 $X_j$라 합시다. $AX_j$의 열은 $A\mathbf{e}_i = \mathbf{a}_i$ ($i \ne j$)와 $A\mathbf{x} = \mathbf{b}$이므로 $AX_j = B_j$입니다. $X_j$를 제$j$행으로 전개하면 $\det X_j = x_j$입니다(그 행에서 대각성분 $x_j$만 대각 위치에 있고, 나머지를 지운 소행렬식이 단위행렬). 따라서 $\det A \cdot x_j = \det B_j$. ■

정리 15.11 (역행렬 공식). $A$가 가역이면

$C$는 여인수 $C_{ij}$를 성분으로 하는 행렬이고, $C^T$를 $A$의 수반행렬(adjugate)이라 합니다.

증명. $(AC^T)_{ik} = \sum_j a_{ij}C_{kj}$. $i = k$이면 제$i$행 여인수 전개로 $\det A$입니다. $i \ne k$이면 $A$의 제$k$행을 제$i$행으로 바꾼 행렬의 제$k$행 전개이고, 그 행렬은 같은 행이 둘이므로 0입니다. 따라서 $AC^T = (\det A)I$. ■

$2 \times 2$이면 $C = \begin{bmatrix} d & -c \\ -b & a \end{bmatrix}$, $C^T = \begin{bmatrix} d & -b \\ -c & a \end{bmatrix}$로 정리 6.4의 공식입니다.

이 두 공식은 계산보다는 이론에 쓰입니다. 예를 들어 $A$의 성분이 모두 정수이고 $\det A = \pm1$이면 $A^{-1}$의 성분도 모두 정수라는 것을 바로 알 수 있습니다. 또 $A^{-1}$의 성분이 $A$의 성분에 대해 “연속적으로” 변한다는 것도 보입니다.

▶ 문제 15.11–15.12

15.7 행렬식과 부피

정리 15.12 (부피). $n \times n$ 행렬 $A$의 열(또는 행)이 만드는 평행육면체의 부피는 $\lvert \det A \rvert$입니다.

증명의 아이디어. $A$가 가역이면 $A = QR$로 씁니다. $\lvert \det A \rvert = \lvert \det Q \rvert\lvert \det R \rvert = \lvert \det R \rvert = r_{11}r_{22} \cdots r_{nn}$입니다. 그런데 $r_{kk} = \lVert \mathbf{A}_k \rVert$는 그람–슈미트에서 $\mathbf{a}_k$의 “앞 벡터들에 수직인 성분”의 길이, 즉 앞의 모서리들이 만드는 밑면에서 잰 높이입니다. 부피 = 밑면 × 높이를 차원마다 반복하면 $r_{11}r_{22} \cdots r_{nn}$이 됩니다. ■

이로써 6장에서 그림으로 제시한 해석이 $n$차원에서 정당화되었습니다. 그리고 소거의 관점에서 보면, 교체 연산이 행렬식을 바꾸지 않는 이유는 평행육면체를 밑면과 평행하게 미는 층밀림이 부피를 바꾸지 않기 때문입니다.

▶ 문제 15.13

쓰이는 곳. 다변수 적분의 변수 변환 $dx\,dy = |\det J|\,du\,dv$, 가우스 분포의 정규화 상수 $\frac{1}{\sqrt{(2\pi)^n\det\Sigma}}$, 행렬이 가역인지 판정하는 데 행렬식을 씁니다.

이 장의 요약

• 정의: (1) $\det I = 1$, (2) 행 교환은 부호를 바꾼다, (3) 각 행에 대해 선형.
• 따름: 같은 행 ⇒ 0, 교체 연산은 불변, 삼각행렬은 대각의 곱, 특이 $\iff \det = 0$.
• $\det(AB) = \det A\det B$, $\det A^T = \det A$. 열에 대해서도 모든 성질이 성립.
• 계산: 소거해서 $\pm$피벗의 곱. 큰 공식은 $n!$항이라 실용적이지 않습니다.
• 여인수 전개: $\det A = \sum_j a_{ij}C_{ij}$, $C_{ij} = (-1)^{i+j}\det M_{ij}$.
• 크래머 $x_j = \det B_j/\det A$, 역행렬 $A^{-1} = C^T/\det A$.
• $\lvert \det A \rvert$는 열이 만드는 평행육면체의 부피.

문제

24
-3
9
1/3
3
-3
3

2
1

1
58

-22

6
1
0
-1
-1
0
1
1

1
1
9/29
10/29
-15/58

1.732