28장. 다중선형 형식과 행렬식

15장의 행렬식을 '변수마다 선형이고, 두 변수를 바꾸면 부호가 바뀌는 함수'로 다시 정의합니다. 이 관점은 행렬식이 왜 유일하게 정해지는지, 왜 곱의 법칙이 성립하는지를 근본적으로 설명하고, 물리와 미분기하의 텐서·미분형식으로 이어집니다(고급).

28.1 행렬 없이 행렬식을

질문. 15장에서 행렬식을 행렬의 행에 대한 세 성질로 정의했습니다. 그런데 $\det A$는 $A$가 나타내는 연산자에만 의존합니다($\det(P^{-1}AP) = \det A$). 그렇다면 기저도 행렬도 쓰지 않고 연산자 $T$ 자체에서 $\det T$를 정의할 수 있지 않을까요?

15장의 핵심 관찰은 이것이었습니다. “각 행에 대해 선형이고, 두 행을 바꾸면 부호가 바뀌는 함수”는 $\det I$ 값 하나로 결정됩니다. 이 장에서는 행 대신 벡터를 넣습니다. 벡터 $n$개를 받아 수를 내놓고, 각 자리에서 선형이며, 두 벡터가 같으면 0이 되는 함수를 교대 $n$-형식이라 합니다. 이런 함수 전체가 1차원 공간을 이룬다는 것이 이 장의 중심 정리이고, 행렬식은 $T$가 이 1차원 공간에 작용하는 배율입니다.

이 장에서 $V$는 $\mathbb{F}$ 위의 $n$차원 벡터공간입니다($n \ge 1$). 28.6–28.7절만 내적공간을 씁니다.

28.2 다중선형 형식

정의 28.1 (다중선형 형식). 함수 $\alpha : V^m = V \times \cdots \times V \to \mathbb{F}$가 각 자리에서 따로 선형일 때, 즉 다른 자리를 고정하면

일 때 $\alpha$를 $V$ 위의 $m$-선형 형식($m$-linear form)이라 합니다. $m = 1$이면 선형 범함수, $m = 2$이면 쌍선형 형식(bilinear form)입니다. $V$ 위의 $m$-선형 형식 전체를 $V^{(m)}$이라 씁니다.

$V^{(m)}$은 보통의 덧셈과 스칼라곱으로 벡터공간입니다.

예제 28.2.

1. $\mathbb{R}^n$의 내적 $\langle \mathbf{x}, \mathbf{y} \rangle = \mathbf{x}^T\mathbf{y}$는 쌍선형 형식입니다. 더 일반적으로 $n \times n$ 행렬 $B$에 대해 $\beta(\mathbf{x}, \mathbf{y}) = \mathbf{x}^TB\mathbf{y}$.
2. $\varphi, \psi \in V'$이면 $\beta(u, v) = \varphi(u)\psi(v)$는 쌍선형 형식입니다.
3. $\mathbb{R}^n$에서 $\alpha(\mathbf{v}_1, \ldots, \mathbf{v}_n) = \det\begin{bmatrix} \mathbf{v}_1 & \cdots & \mathbf{v}_n \end{bmatrix}$은 $n$-선형 형식입니다(15장의 성질 (3)과 (10)).

$\mathbb{C}$ 위의 내적은 둘째 자리에서 켤레선형이므로 쌍선형이 아닙니다. 이 장의 형식들은 모든 자리에서 선형입니다.

정리 28.3 (쌍선형 형식과 행렬). $e_1, \ldots, e_n$이 $V$의 기저이고 $\beta \in V^{(2)}$이면, $B = [b_{ij}]$, $b_{ij} = \beta(e_i, e_j)$에 대해

입니다. $\beta \mapsto B$는 $V^{(2)}$에서 $\mathbb{F}^{n \times n}$으로의 동형사상이고, $\dim V^{(2)} = n^2$입니다.

증명. $u = \sum x_ie_i$, $v = \sum y_je_j$를 넣고 두 자리에서 각각 선형성을 쓰면 $\beta(u, v) = \sum_{i,j} x_iy_j\beta(e_i, e_j) = \mathbf{x}^TB\mathbf{y}$. 따라서 $\beta$는 $B$로 정해지고, 역으로 아무 $B$나 주면 $\mathbf{x}^TB\mathbf{y}$는 쌍선형입니다. 대응이 선형인 것은 명백합니다. ■

같은 논리로 $m$-선형 형식은 $\alpha(e_{i_1}, \ldots, e_{i_m})$ 값 $n^m$개로 정해지고 $\dim V^{(m)} = n^m$입니다.

기저를 바꾸면 $B$는 어떻게 변할까요? 새 기저의 좌표가 $\mathbf{x} = P\mathbf{x}'$이면 $\beta(u, v) = (P\mathbf{x}')^TB(P\mathbf{y}') = \mathbf{x}'^T(P^TBP)\mathbf{y}'$이므로 새 행렬은 $P^TBP$입니다. 연산자의 행렬은 $P^{-1}AP$로 바뀌었습니다(19장). 같은 정사각행렬이라도 연산자를 나타내는지 쌍선형 형식을 나타내는지에 따라 변환 법칙이 다릅니다. 17장의 이차형식 $\mathbf{x}^TS\mathbf{x}$는 쌍선형 형식이고, $P$가 직교행렬일 때만 두 법칙이 일치합니다($P^T = P^{-1}$). 스펙트럴 정리가 직교행렬로 대각화하는 것이 그래서 중요합니다.

▶ 문제 28.1–28.3

28.3 교대 형식

정의 28.4 (교대 형식). $\alpha \in V^{(m)}$이 두 자리에 같은 벡터를 넣으면 0이 될 때, 즉 $i \ne j$이고 $v_i = v_j$이면 $\alpha(v_1, \ldots, v_m) = 0$일 때 $\alpha$를 교대(alternating) 형식이라 합니다. 교대 $m$-형식 전체를 $V^{(m)}_{\mathrm{alt}}$라 씁니다.

예제 28.5. $\mathbb{R}^2$에서 $\alpha(\mathbf{u}, \mathbf{v}) = u_1v_2 - u_2v_1$은 교대입니다. 반면 내적 $\mathbf{u}^T\mathbf{v}$는 $\mathbf{u}^T\mathbf{u} = \lVert \mathbf{u} \rVert^2$이므로 교대가 아닙니다.

직관. $\alpha(v_1, \ldots, v_m)$을 $v_1, \ldots, v_m$이 만드는 평행체의 “부호 있는 부피”로 생각합시다. 두 모서리가 같으면 평행체가 납작하게 찌그러져 부피가 0입니다. 교대 조건은 그 사실 하나를 요구합니다. 나머지는 모두 따라 나옵니다.

정리 28.6 (교대 형식의 성질). $\alpha \in V^{(m)}_{\mathrm{alt}}$이면

1. 두 자리를 바꾸면 부호가 바뀝니다.
2. $v_1, \ldots, v_m$이 일차종속이면 $\alpha(v_1, \ldots, v_m) = 0$.
3. $m > n$이면 $\alpha = 0$.

증명. (1) $i$번째와 $j$번째 자리만 적자. 교대성에 의해

(2) 보조정리 21.5에 의해 어떤 $v_k$가 나머지의 일차결합 $\sum_{j \ne k} a_jv_j$입니다. 그 자리를 선형으로 펼치면 각 항에 $v_j$가 두 번 나타나므로 모두 0.

(3) $V$에서 $n$개보다 많은 벡터는 일차종속이므로 (2). ■

(1)의 역은 $1 + 1 \ne 0$인 체에서 성립합니다. 자리를 바꿀 때 부호가 바뀌면 $\alpha(v, v) = -\alpha(v, v)$이므로 $2\alpha(v, v) = 0$. 그래서 “교대”와 “반대칭”을 흔히 같은 뜻으로 씁니다. 하지만 $\mathbb{F}_2$에서는 $-1 = 1$이어서 다릅니다(문제 28.6).

자리 바꾸기를 여러 번 하면 순열이 됩니다. 순열 $\sigma$를 맞바꿈의 곱으로 쓸 때 맞바꿈 횟수의 홀짝은 $\operatorname{sgn}(\sigma) = \det P_\sigma$로 정해집니다(15장). 따라서

▶ 문제 28.4–28.6

28.4 교대 n-형식은 1차원

정리 28.7 (교대 $n$-형식의 공간). $\dim V^{(n)}_{\mathrm{alt}} = 1$. 구체적으로 $e_1, \ldots, e_n$이 기저이고 $v_j = \sum_i x_{ij}e_i$이면, 모든 교대 $n$-형식 $\alpha$에 대해

여기서 $X = [x_{ij}]$는 $v_j$의 좌표를 열로 가진 행렬입니다.

증명. 각 자리를 선형으로 펼치면

$i_1, \ldots, i_n$ 중 같은 것이 있으면 교대성에 의해 그 항은 0입니다. 살아남는 것은 $(i_1, \ldots, i_n) = (\sigma(1), \ldots, \sigma(n))$이 순열인 항뿐이고, 그때 $\alpha(e_{\sigma(1)}, \ldots, e_{\sigma(n)}) = \operatorname{sgn}(\sigma)\alpha(e_1, \ldots, e_n)$입니다. 괄호 안은 큰 공식(정리 15.5)을 $X^T$에 쓴 것이므로 $\det X^T = \det X$.

따라서 모든 교대 $n$-형식은 수 $\alpha(e_1, \ldots, e_n)$ 하나로 정해지고, $\dim \le 1$입니다. 반대로 $\alpha_0(v_1, \ldots, v_n) = \det X$는 0이 아닌 교대 $n$-형식입니다(15장의 열에 대한 성질과 $\det I = 1$). 따라서 $\dim = 1$입니다. ■

이 증명은 15.4절에서 행렬식의 큰 공식을 끌어낸 계산과 똑같습니다. 차이는 관점입니다. 15장에서는 행렬식이라는 하나의 함수를 다뤘고, 여기서는 그런 함수들의 공간이 1차원이라고 말합니다. 교대 $n$-형식은 서로 상수배일 뿐입니다. “부피”를 재는 방법은 단위를 정하는 것 말고는 하나뿐입니다.

▶ 문제 28.7–28.8

28.5 연산자의 행렬식

$T \in \mathcal{L}(V)$와 교대 $n$-형식 $\alpha$에 대해

로 둡시다. $T$가 선형이므로 $\alpha_T$도 다중선형이고, $v_i = v_j$이면 $Tv_i = Tv_j$이므로 교대입니다. 공간이 1차원이므로 $\alpha_T$는 $\alpha$의 상수배입니다.

정의 28.8 (연산자의 행렬식). $\alpha \ne 0$인 교대 $n$-형식에 대해 $\alpha_T = c\,\alpha$일 때 $\det T = c$로 정의합니다. 즉 모든 $v_1, \ldots, v_n$에 대해

$c$는 $\alpha$의 선택과 무관합니다. 다른 $\beta \ne 0$은 $\beta = k\alpha$ ($k \ne 0$)이므로 $\beta_T = k\alpha_T = kc\,\alpha = c\,\beta$.

직관. $\alpha$를 부피라 하면, $T$를 건 뒤의 부피는 원래 부피의 $\det T$배입니다. 어떤 평행체를 재든 배율이 같습니다. 6장에서 그림으로 본 “넓이 배율”이 정의 그 자체가 되었습니다.

정리 28.9 (연산자 행렬식의 성질). $S, T \in \mathcal{L}(V)$에 대하여

1. $\det I = 1$.
2. $\det(ST) = \det S\det T$.
3. $T$가 가역 $\iff$ $\det T \ne 0$.
4. 임의의 기저에서 $\det T = \det\mathcal{M}(T)$.

증명. (1) 정의에서 바로. (2) $\alpha(STv_1, \ldots, STv_n) = \det S \cdot \alpha(Tv_1, \ldots, Tv_n) = \det S\det T \cdot \alpha(v_1, \ldots, v_n)$.

(3) $T$가 가역이면 $1 = \det I = \det(TT^{-1}) = \det T\det T^{-1}$. 가역이 아니면 기저 $e_1, \ldots, e_n$에 대해 $Te_1, \ldots, Te_n$이 일차종속이므로(정리 22.16) $\det T \cdot \alpha(e_1, \ldots, e_n) = \alpha(Te_1, \ldots, Te_n) = 0$. $\alpha(e_1, \ldots, e_n) \ne 0$이므로($\alpha$는 그 값으로 정해지는 0이 아닌 형식) $\det T = 0$.

(4) $\mathcal{M}(T)$의 $j$열은 $Te_j$의 좌표이므로 정리 28.7에서 $v_j = Te_j$로 두면 $\alpha(Te_1, \ldots, Te_n) = \det\mathcal{M}(T) \cdot \alpha(e_1, \ldots, e_n)$. ■

(4)는 $\det(P^{-1}AP) = \det A$를 계산 없이 설명합니다. 두 행렬이 같은 연산자를 나타내기 때문입니다. (2)는 15장에서 “유일성” 논법으로 힘들게 증명한 $\det(AB) = \det A\det B$가 정의에서 한 줄로 나온다는 것을 보여 줍니다.

정리 28.10 (행렬식과 특성다항식). $\mathbb{F} = \mathbb{C}$이고 $T$의 특성다항식이 $q$이면 $q(z) = \det(zI - T)$입니다. 특히 $\det T$는 고윳값들을 중복도만큼 곱한 것입니다.

증명. 27장의 기저에서 $\mathcal{M}(T)$는 대각에 $\lambda_j$가 $d_j$번씩 놓인 위삼각행렬입니다. $zI - \mathcal{M}(T)$도 위삼각이므로 성질 (4)와 15장의 (7)에 의해 $\det(zI - T) = \prod(z - \lambda_j)^{d_j} = q(z)$. $z = 0$을 넣으면 $(-1)^n\det T = q(0) = (-1)^n\prod\lambda_j^{d_j}$. ■

이로써 16장의 “고윳값은 $\det(A - \lambda I) = 0$의 근”과 27장의 “행렬식 없이 정의한 특성다항식”이 하나로 이어집니다.

▶ 문제 28.9–28.11

28.6 부피와 특잇값

이 절에서 $V$는 실수 또는 복소 내적공간입니다.

정리 28.11 (행렬식의 절댓값). $\lvert \det T \rvert = s_1s_2 \cdots s_n$. 여기서 $s_j$는 $T$의 특잇값입니다.

증명. 극분해(정리 26.15) $T = S\sqrt{T^*T}$에서 $\det T = \det S \cdot \det\sqrt{T^*T}$.

$\sqrt{T^*T}$는 고윳값이 $s_1, \ldots, s_n \ge 0$인 대각화 가능한 연산자이므로 $\det\sqrt{T^*T} = s_1 \cdots s_n$.

$S$는 등거리이므로 $S^*S = I$. 정규직교 기저에서 $\mathcal{M}(S^*) = \overline{\mathcal{M}(S)}^T$이고, 큰 공식에 켤레를 취하면 $\det\bar A = \overline{\det A}$, 전치는 행렬식을 바꾸지 않으므로 $\det S^* = \overline{\det S}$. 따라서 $1 = \det(S^*S) = \lvert \det S \rvert^2$. ■

그림 28.1. $T$는 정규직교 기저 $e_1, e_2$를 수직인 방향 $f_1, f_2$로 보내며 $s_1, s_2$배로 늘입니다(SVD). 단위원은 반지름이 $s_1, s_2$인 타원이 되고, 넓이 배율은 $s_1s_2$입니다. 회전 $S$는 넓이를 바꾸지 않습니다.

직관. 극분해는 $T$를 “수직인 방향들로 늘이기”($\sqrt{T^*T}$)와 “돌리기”($S$)로 나눕니다. 늘이기는 단위정육면체를 변의 길이가 $s_1, \ldots, s_n$인 직육면체로 바꾸고, 돌리기는 부피를 바꾸지 않습니다. 그래서 부피 배율은 $s_1 \cdots s_n$입니다.

실수 공간에서 $\det T$의 부호는 방향을 알려 줍니다. $\det S = \pm1$이고, $-1$이면 $S$는 거울을 포함합니다(6.3절). 그림 28.1과 18장의 그림은 같은 이야기를 합니다.

$\lvert \det T \rvert$가 작다는 것은 $T$가 거의 특이라는 뜻일까요? 꼭 그렇지는 않습니다. $\frac{1}{10}I_{10}$은 $\det = 10^{-10}$이지만 완벽하게 가역입니다. 가역성에서 얼마나 먼지는 가장 작은 특잇값 $s_n$이 재고, 이 생각은 30장의 조건수로 이어집니다.

▶ 문제 28.12–28.13

28.7 외적의 정체

$\mathbb{R}^3$에서 $\mathbf{u}, \mathbf{v}$를 고정하면 $\mathbf{w} \mapsto \det\begin{bmatrix} \mathbf{u} & \mathbf{v} & \mathbf{w} \end{bmatrix}$는 선형 범함수입니다. 리스 표현 정리(정리 25.13)에 의해 이것을 내적으로 나타내는 벡터가 유일하게 있습니다.

정의 28.12 (외적). $\mathbf{u}, \mathbf{v} \in \mathbb{R}^3$의 외적(cross product) $\mathbf{u} \times \mathbf{v}$는 모든 $\mathbf{w} \in \mathbb{R}^3$에 대해

를 만족하는 유일한 벡터입니다.

$\mathbf{w} = \mathbf{e}_1, \mathbf{e}_2, \mathbf{e}_3$을 넣으면 성분이 나옵니다(여인수 전개).

정리 28.13 (외적의 성질).

1. $\mathbf{v} \times \mathbf{u} = -\mathbf{u} \times \mathbf{v}$, 그리고 $\mathbf{u} \times \mathbf{v}$는 두 자리에서 각각 선형입니다.
2. $\mathbf{u} \times \mathbf{v}$는 $\mathbf{u}$와 $\mathbf{v}$에 모두 수직입니다.
3. $\mathbf{u} \times \mathbf{v} = \mathbf{0} \iff \mathbf{u}, \mathbf{v}$가 일차종속.
4. $\lVert \mathbf{u} \times \mathbf{v} \rVert$는 $\mathbf{u}, \mathbf{v}$가 만드는 평행사변형의 넓이이고, $\mathbf{u}, \mathbf{v}, \mathbf{u} \times \mathbf{v}$는 이 순서로 $\det > 0$인 기저(오른손 기저)입니다.

증명. (1) 행렬식이 열에 대해 교대 다중선형이므로 모든 $\mathbf{w}$에 대해 $\langle \mathbf{w}, \cdot \rangle$가 그렇습니다. (2) $\langle \mathbf{u}, \mathbf{u} \times \mathbf{v} \rangle = \det[\mathbf{u}\ \mathbf{v}\ \mathbf{u}] = 0$. $\mathbf{v}$도 같습니다.

(3) 종속이면 모든 $\mathbf{w}$에 대해 $\det = 0$이므로 $\mathbf{u} \times \mathbf{v} = \mathbf{0}$. 독립이면 $\mathbf{w}$를 더해 기저로 만들면 $\det \ne 0$이므로 $\mathbf{u} \times \mathbf{v} \ne \mathbf{0}$.

(4) 독립인 경우 $\mathbf{n} = \mathbf{u} \times \mathbf{v}/\lVert \mathbf{u} \times \mathbf{v} \rVert$로 두면 $\det[\mathbf{u}\ \mathbf{v}\ \mathbf{n}] = \langle \mathbf{n}, \mathbf{u} \times \mathbf{v} \rangle = \lVert \mathbf{u} \times \mathbf{v} \rVert > 0$. 한편 $\mathbf{n}$은 $\mathbf{u}, \mathbf{v}$에 수직인 단위벡터이므로 평행육면체 $\mathbf{u}, \mathbf{v}, \mathbf{n}$의 부피는 (밑면의 넓이)×(높이 1)입니다. ■

외적은 $\mathbb{R}^3$에서만 이런 모양으로 존재합니다. 두 벡터를 고정하고 남은 자리가 하나여야 범함수가 되고, 그 범함수를 벡터로 바꾸려면 내적이 필요합니다. $\mathbb{R}^n$에서는 $n - 1$개의 벡터에서 하나의 벡터가 나옵니다(문제 28.15).

▶ 문제 28.14–28.15

쓰이는 곳. 물리의 텐서(응력, 관성), 미분기하의 미분형식, 부피를 재는 행렬식이 모두 다중선형 형식입니다. 일반상대성이론과 연속체역학 논문의 기본 언어입니다.

이 장의 요약

• $m$-선형 형식: 각 자리에서 선형. 쌍선형 형식 ↔ 행렬 $B$, 기저변환은 $P^TBP$.
• 교대: 같은 벡터 두 개를 넣으면 0. 자리를 바꾸면 부호가 바뀌고, 종속이면 0.
• 교대 $n$-형식의 공간은 1차원이고, $\alpha(v_1, \ldots, v_n) = \det X \cdot \alpha(e_1, \ldots, e_n)$.
• $\alpha(Tv_1, \ldots, Tv_n) = \det T \cdot \alpha(v_1, \ldots, v_n)$로 $\det T$를 정의합니다. 곱셈성, 가역성 판정, 기저 무관성이 정의에서 바로 나옵니다.
• $\det(zI - T)$는 특성다항식이고, $\det T$는 고윳값의 곱입니다.
• $\lvert \det T \rvert = s_1 \cdots s_n$: 부피 배율은 특잇값의 곱입니다.
• 외적은 범함수 $\mathbf{w} \mapsto \det[\mathbf{u}\ \mathbf{v}\ \mathbf{w}]$를 나타내는 벡터입니다.

문제

1
2
-1
3
5
-5
1
3

X
O
X
O

6

1
0
8

12
7

6.708
2.236
15

-3
6
-3
7.348