23장. 다항식

요약

계수의 유일성과 반데르몽드 행렬, 차원 세기로 증명하는 나눗셈 정리, 인수정리와 근의 개수, 대수학의 기본정리, 실수 계수 다항식의 켤레근과 인수분해, 연산자에 다항식 대입하기

고윳값 이론을 엄밀히 세우려면 다항식의 성질(나눗셈, 근, 인수분해)이 필요합니다. 이 장은 고등학교에서 배운 다항식을 복소수 계수까지 넓혀 정리하고, '복소수 범위에서는 모든 다항식이 일차식의 곱으로 쪼개진다'는 대수학의 기본정리를 다룹니다. 24장 이후를 위한 준비 장입니다(심화).

23.1 선형대수에 다항식이 나오는 이유

질문. 16장에서 고윳값은 특성다항식의 근이었습니다. 실수 행렬이 실수 고윳값을 갖지 않을 수 있던 이유는 $\lambda^2 + 1 = 0$ 이 실근을 갖지 않기 때문이었습니다. 고윳값 이론의 밑바닥에는 다항식의 근에 관한 사실들이 있습니다. 그 사실들은 정확히 무엇이고, 왜 성립할까요?

24장부터 연산자 $T$ 에 다항식을 대입한 $p(T) = a_0I + a_1T + \cdots + a_mT^m$ 을 다룹니다. 그리고 “ $T$ 를 0으로 만드는 가장 작은 다항식”(최소다항식)이 $T$ 의 구조를 결정한다는 것을 보게 됩니다. 이 장은 그 준비로, 다항식에 대해 필요한 사실을 정리합니다. 고등학교에서 배운 내용(나머지정리, 인수정리)이 대부분이지만, 증명을 벡터공간의 언어로 다시 쓰는 부분이 있습니다.

$\mathbb{F}$ 는 $\mathbb{R}$ 또는 $\mathbb{C}$ 입니다. 다항식 $p(x) = a_0 + a_1x + \cdots + a_mx^m$ 에서 $a_m \ne 0$ 이면 $\deg p = m$ 입니다. 영다항식의 차수는 $-\infty$ 로 약속합니다(그래야 $\deg(pq) = \deg p + \deg q$ 가 항상 성립합니다).

23.2 계수의 유일성

정리 23.1 (0이 되는 다항식). $a_0 + a_1x + \cdots + a_mx^m = 0$ 이 모든 $x \in \mathbb{F}$ (또는 서로 다른 $m + 1$ 개의 $x$ )에서 성립하면 $a_0 = a_1 = \cdots = a_m = 0$ 입니다.

증명. 서로 다른 $x_0, \ldots, x_m$ 에서 0이라 합시다. 22.6절의 보간 예제의 사상 $T : \mathcal{P}_m(\mathbb{F}) \to \mathbb{F}^{m+1}$ , $Tp = (p(x_0), \ldots, p(x_m))$ 이 단사임을 보이면 됩니다. 이를 위해 기본정리 대신 반데르몽드 행렬을 씁시다. $Tp = 0$ 은

\begin{bmatrix} 1 & x_0 & \cdots & x_0^m \\ 1 & x_1 & \cdots & x_1^m \\ \vdots & & & \vdots \\ 1 & x_m & \cdots & x_m^m \end{bmatrix}\begin{bmatrix} a_0 \\ a_1 \\ \vdots \\ a_m \end{bmatrix} = \mathbf{0}

입니다. 이 행렬의 행렬식은 $\prod_{i < j}(x_j - x_i) \ne 0$ 입니다(문제 15.10의 일반화, 문제 23.1). 따라서 $\mathbf{a} = \mathbf{0}$ . ■

이 정리 덕분에 “다항식”과 “다항함수”를 구별하지 않아도 됩니다( $\mathbb{F}$ 가 무한체일 때). 두 다항식이 함수로서 같으면 계수도 같습니다. ( $\mathbb{F}_2$ 에서는 $x^2 + x$ 가 모든 점에서 0인데 영다항식이 아니므로 구별해야 합니다.)

23.3 나눗셈 정리

정리 23.2 (나눗셈 정리). $p, s \in \mathcal{P}(\mathbb{F})$ 이고 $s \ne 0$ 이면

p = sq + r, \qquad \deg r < \deg s

인 $q, r \in \mathcal{P}(\mathbb{F})$ 가 유일하게 존재합니다.

증명. $n = \deg p$ , $m = \deg s$ 라 합시다. $n < m$ 이면 $q = 0$ , $r = p$ 로 끝입니다( $q \ne 0$ 이면 $\deg(sq) \ge m > \deg p$ 이므로 유일). $n \ge m$ 이라 합시다. 선형사상

T : \mathcal{P}_{n-m}(\mathbb{F}) \times \mathcal{P}_{m-1}(\mathbb{F}) \to \mathcal{P}_n(\mathbb{F}), \qquad T(q, r) = sq + r

을 생각합니다. 정의역의 차원은 $(n - m + 1) + m = n + 1$ 이고 공역도 $n + 1$ 차원입니다. $T(q, r) = 0$ 이면 $sq = -r$ 인데, $q \ne 0$ 이면 좌변의 차수는 $m$ 이상, 우변은 $m - 1$ 이하이므로 모순. 따라서 $q = 0$ , $r = 0$ , $T$ 는 단사입니다. 차원이 같으므로 전단사(정리 22.16과 같은 논리)이고, $p$ 에 대해 $T(q, r) = p$ 인 $(q, r)$ 이 정확히 하나 있습니다. ■

고등학교의 다항식 나눗셈(긴 나눗셈)은 이 $q$ , $r$ 을 실제로 계산하는 방법입니다. 위 증명은 계산 없이 존재와 유일성을 보여 줍니다. 차원을 세는 것만으로 존재를 증명하는 방식은 선형대수의 전형적인 논법입니다.

23.4 근과 인수

정리 23.3 (인수정리). $p \in \mathcal{P}(\mathbb{F})$ , $\lambda \in \mathbb{F}$ 에 대해 $p(\lambda) = 0$ 인 것은 $p(x) = (x - \lambda)q(x)$ 인 다항식 $q$ 가 있는 것과 동치입니다.

증명. 나눗셈 정리로 $p = (x - \lambda)q + r$ , $\deg r < 1$ , 즉 $r$ 은 상수입니다. $x = \lambda$ 를 넣으면 $r = p(\lambda)$ . ■

따름정리 23.4 (근의 개수). 차수가 $m \ge 0$ 인 다항식은 근을 많아야 $m$ 개 갖습니다.

증명. $m$ 에 대한 귀납법. 근 $\lambda$ 가 있으면 $p = (x - \lambda)q$ , $\deg q = m - 1$ . $p$ 의 다른 근 $\mu \ne \lambda$ 는 $(\mu - \lambda)q(\mu) = 0$ 에서 $q$ 의 근이고, $q$ 의 근은 귀납 가정에 의해 $m - 1$ 개 이하. ■

▶ 문제 23.1–23.4

23.5 대수학의 기본정리

정리 23.5 (대수학의 기본정리). 상수가 아닌 모든 복소계수 다항식은 복소수 근을 적어도 하나 갖습니다.

증명의 개요 (†). $p(z) = a_0 + \cdots + a_mz^m$ ( $m \ge 1$ , $a_m \ne 0$ )이라 합시다.

$\lvert z \rvert$ 가 크면 $\lvert p(z) \rvert$ 도 큽니다(최고차항이 지배합니다). 그래서 $\lvert p(z) \rvert$ 의 최솟값은 어떤 유한한 원판 안에서 찾으면 되고, 연속함수가 닫힌 원판에서 최솟값을 가진다는 해석학의 정리에 의해 최솟값을 갖는 점 $z_0$ 가 있습니다.
$p(z_0) \ne 0$ 이라 가정합시다. $z_0$ 근처에서 $p(z_0 + w) = p(z_0) + cw^k$ + (더 높은 차수) ( $c \ne 0$ ) 꼴입니다. $w$ 를 아주 작게 하고 방향을 잘 골라 $cw^k$ 가 $p(z_0)$ 와 반대 방향을 가리키게 하면(복소수의 $k$ 제곱근이 존재하므로 가능) $\lvert p(z_0 + w) \rvert < \lvert p(z_0) \rvert$ 가 됩니다. 최솟값이라는 데 모순.

따라서 $p(z_0) = 0$ 입니다. 이 증명은 해석학(연속성, 극한)을 필요로 하므로 순수한 대수만으로는 증명할 수 없습니다. ■

대수학의 기본정리는 복소수가 “충분히 큽니다”는 것을 말합니다. 실수에 $i$ 하나만 추가했을 뿐인데, 모든 다항식이 근을 갖게 되었습니다.

따름정리 23.6 (복소수 범위의 인수분해). $p \in \mathcal{P}(\mathbb{C})$ , $\deg p = m \ge 1$ 이면

p(z) = c(z - \lambda_1)(z - \lambda_2) \cdots (z - \lambda_m)

으로 인수분해되고, 이 표현은 순서를 제외하고 유일합니다.

증명. 존재: 근 $\lambda_1$ 을 찾아 인수정리로 $(z - \lambda_1)$ 을 빼내고, 몫에 반복합니다. 유일: 두 표현이 있으면 $\lambda_1$ 은 다른 표현의 어떤 $\lambda_j$ 와 같아야 하고(우변을 0으로 만드는 수는 $\lambda_j$ 들뿐), 양변에서 $(z - \lambda_1)$ 을 약분해 귀납합니다. ■

16장에서 “ $n \times n$ 행렬은 복소수 범위에서 $n$ 개의 고윳값을 갖습니다”고 한 근거가 이것입니다.

▶ 문제 23.5–23.6

23.6 실수 계수 다항식

정리 23.7 (켤레근). $p$ 가 실수 계수 다항식이고 $\lambda \in \mathbb{C}$ 가 근이면 $\bar\lambda$ 도 근입니다.

증명. $p(\lambda) = \sum a_k\lambda^k = 0$ 에 켤레를 취하면 $a_k$ 가 실수이므로 $\sum a_k\bar\lambda^k = 0$ . ■

정리 23.8 (실수 범위의 인수분해). 상수가 아닌 실수 계수 다항식은 실수 계수의 일차식들과, 판별식이 음수인 이차식들( $x^2 + bx + c$ , $b^2 < 4c$ )의 곱으로 인수분해됩니다.

증명. 복소수 범위에서 인수분해하고, 실근이 아닌 근 $\lambda$ 와 그 켤레 $\bar\lambda$ 를 짝지어 곱하면

(x - \lambda)(x - \bar\lambda) = x^2 - 2(\operatorname{Re}\lambda)x + \lvert \lambda \rvert^2

로 실수 계수 이차식이 됩니다. 판별식은 $4(\operatorname{Re}\lambda)^2 - 4\lvert \lambda \rvert^2 = -4(\operatorname{Im}\lambda)^2 < 0$ 입니다. (짝짓기가 가능하려면 $\lambda$ 와 $\bar\lambda$ 의 중복도가 같아야 하는데, $p(x)/\big((x - \lambda)(x - \bar\lambda)\big)$ 가 다시 실수 계수임을 써서 귀납하면 됩니다.) ■

따름정리 23.9 (홀수 차수). 홀수 차수의 실수 계수 다항식은 실근을 적어도 하나 갖습니다.

비실근은 짝으로 나오므로 그 개수는 짝수이고, 전체 근의 개수(홀수)에서 빼면 실근이 적어도 하나 남습니다. 따라서 홀수 차원의 실수 행렬은 실수 고윳값을 반드시 갖습니다. 예를 들어 $\mathbb{R}^3$ 의 모든 회전에는 회전축(고윳값 1의 고유벡터)이 있습니다(문제 23.8).

▶ 문제 23.7–23.8

23.7 연산자에 다항식 대입하기

정의 23.10 ( $p(T)$ ). $T \in \mathcal{L}(V)$ 와 $p(x) = a_0 + a_1x + \cdots + a_mx^m$ 에 대해

p(T) = a_0I + a_1T + a_2T^2 + \cdots + a_mT^m \in \mathcal{L}(V).

정리 23.11 (다항식 대입의 성질). $p, q \in \mathcal{P}(\mathbb{F})$ , $T \in \mathcal{L}(V)$ 이면

(p + q)(T) = p(T) + q(T), \qquad (pq)(T) = p(T)q(T) = q(T)p(T).

증명. 첫째는 정의에서 바로. 둘째: $p = \sum a_jx^j$ , $q = \sum b_kx^k$ 이면 $pq = \sum_{j,k} a_jb_kx^{j+k}$ 이고 $p(T)q(T) = \sum_{j,k} a_jb_kT^jT^k = \sum_{j,k} a_jb_kT^{j+k}$ . $T$ 의 거듭제곱끼리는 교환하므로 $q(T)p(T)$ 도 같습니다. ■

연산자의 곱은 일반적으로 교환하지 않지만, 같은 $T$ 의 다항식끼리는 교환합니다. 다항식을 인수분해하면 $p(T)$ 도 인수분해됩니다. 예를 들어 $p(x) = x^2 - 5x + 6 = (x - 2)(x - 3)$ 이면 $p(T) = (T - 2I)(T - 3I)$ 입니다. 24장은 이 사실에서 출발합니다.

▶ 문제 23.9–23.10

쓰이는 곳. 다항식의 근과 인수분해는 특성다항식(고윳값), 제어 시스템의 안정성 판정(극점의 위치), 디지털 필터 설계에서 쓰입니다.

이 장의 요약

무한체에서 다항식이 모든 점에서 0이면 계수가 모두 0입니다.
나눗셈 정리: $p = sq + r$ , $\deg r < \deg s$ , 유일. 차원 세기로 증명됩니다.
인수정리: $p(\lambda) = 0 \iff (x - \lambda) \mid p$ . $m$ 차 다항식의 근은 많아야 $m$ 개.
대수학의 기본정리: 복소수 범위에서 상수가 아닌 다항식은 근을 갖습니다. 따라서 일차식들의 곱으로 인수분해됩니다.
실수 계수: 비실근은 켤레 쌍. 일차식과 판별식이 음인 이차식의 곱. 홀수 차수는 실근을 갖습니다.
$p(T) = \sum a_kT^k$ . $(pq)(T) = p(T)q(T)$ 이고 같은 $T$ 의 다항식끼리는 교환합니다.

문제

23.1 [도전]

$(m + 1) \times (m + 1)$ 반데르몽드 행렬식이 $\prod_{0 \le i < j \le m}(x_j - x_i)$ 임을 귀납법으로 증명합니다.

힌트. 마지막 열부터 차례로 (그 열) $- x_0 \times$ (왼쪽 열)을 하면 첫째 행이 $(1, 0, \ldots, 0)$ 이 됩니다.

풀이

힌트의 열 연산(행렬식 불변) 후 행 $i$ ( $i \ge 1$ )는 $(1, x_i - x_0, x_i(x_i - x_0), \ldots, x_i^{m-1}(x_i - x_0))$ . 첫째 행으로 전개하고 각 행에서 $(x_i - x_0)$ 를 빼내면 $\prod_{i \ge 1}(x_i - x_0)$ 곱하기 $x_1, \ldots, x_m$ 의 $m \times m$ 반데르몽드 행렬식. 귀납 가정으로 끝.

23.2 [계산] · 확인 문제

$p(x) = x^4 + 1$ 을 $s(x) = x^2 + x$ 로 나눈 몫과 나머지를 구합니다. 곱해서 확인합니다.

	$x^2$ 의 계수	$x$ 의 계수	상수항
몫 $q$	[?]	[?]	[?]
나머지 $r$	0	[?]	[?]

정답

풀이

$x^4 + 1 = (x^2 + x)(x^2 - x + 1) + (1 - x)$ . 확인: $(x^2 + x)(x^2 - x + 1) = x^4 + x$ .

23.3 [계산] · 확인 문제

$x^{100}$ 을 $x^2 - 1$ 로 나눈 나머지를 구합니다. (나머지를 $ax + b$ 로 놓고 $x = \pm1$ 을 대입합니다.)

정답

풀이

$x^{100} = (x^2 - 1)q(x) + ax + b$ . $x = 1$ : $1 = a + b$ . $x = -1$ : $1 = -a + b$ . $a = 0$ , $b = 1$ . 나머지 1.

23.4 [증명]

차수가 $m$ 이하인 두 다항식 $p$ , $q$ 가 서로 다른 $m + 1$ 개의 점에서 값이 같으면 $p = q$ 임을 보입니다.

풀이

$p - q$ 는 차수 $m$ 이하이고 근이 $m + 1$ 개이므로 따름정리 23.4에 의해 영다항식.

23.5 [계산]

복소수 범위에서 일차식들의 곱으로 인수분해합니다. (a) $z^4 - 1$ (b) $z^2 + 2z + 5$ (c) $z^3 - 8$

풀이

(a) $(z - 1)(z + 1)(z - i)(z + i)$ .

(b) 근 $z = -1 \pm 2i$ . $(z + 1 - 2i)(z + 1 + 2i)$ .

23.6 [증명]

실수 계수 이차식 $x^2 + bx + c$ 에서 $b^2 < 4c$ 이면 실근이 없고, 두 복소근이 서로 켤레임을 보입니다.

풀이

근의 공식 $x = \frac{-b \pm \sqrt{b^2 - 4c}}{2}$ 에서 $b^2 - 4c < 0$ 이므로 $\sqrt{b^2 - 4c} = i\sqrt{4c - b^2}$ . 두 근은 $-\frac b2 \pm \frac{\sqrt{4c - b^2}}{2}i$ 로 허수부가 0이 아닌 켤레입니다.

23.7 [계산]

$x^4 + 1$ 을 실수 계수 이차식 두 개의 곱으로 인수분해합니다. (힌트: $(x^2 + 1)^2 - 2x^2$ .)

풀이

$x^4 + 1 = (x^2 + 1)^2 - (\sqrt2x)^2 = (x^2 + \sqrt2x + 1)(x^2 - \sqrt2x + 1)$ . 두 이차식의 판별식은 $2 - 4 < 0$ .

23.8 [도전]

$Q$ 가 $\det Q = 1$ 인 $3 \times 3$ 실수 직교행렬이면 1이 $Q$ 의 고윳값임을 보입니다. 따라서 $\mathbb{R}^3$ 의 모든 회전에는 고정된 축이 있습니다.

힌트. 고윳값의 절댓값은 1입니다(문제 14.12를 복소수로 확장). 고윳값이 실수 셋인 경우와 실수 하나 + 켤레 쌍인 경우를 나눕니다.

풀이

$Q\mathbf{x} = \lambda\mathbf{x}$ ( $\mathbf{x} \in \mathbb{C}^3$ )이면 $\bar{\mathbf{x}}^TQ^TQ\mathbf{x} = \lvert \lambda \rvert^2\bar{\mathbf{x}}^T\mathbf{x}$ 이고 $Q^TQ = I$ 이므로 $\lvert \lambda \rvert = 1$ . 특성다항식은 3차 실수 다항식.

실근 셋: 각각 $\pm1$ 이고 곱이 $\det Q = 1$ . 셋 다 $-1$ 이면 곱이 $-1$ 이므로, 적어도 하나는 1.
실근 하나 $\lambda$ 와 켤레 쌍 $\mu, \bar\mu$ : 곱 $\lambda\lvert \mu \rvert^2 = \lambda = 1$ .

23.9 [계산] · 확인 문제

$T = \begin{bmatrix} 1 & 1 \\ 0 & 2 \end{bmatrix}$ , $p(x) = x^2 - 3x + 2$ 일 때 $p(T)$ 를 두 가지로 계산합니다: (a) $T^2 - 3T + 2I$ 로, (b) $(T - I)(T - 2I)$ 로.

	1열	2열
1행	[?]	[?]
2행	[?]	[?]

정답

풀이

(a) $T^2 = \begin{bmatrix} 1 & 3 \\ 0 & 4 \end{bmatrix}$ , $T^2 - 3T + 2I = \begin{bmatrix} 1 - 3 + 2 & 3 - 3 \\ 0 & 4 - 6 + 2 \end{bmatrix} = O$ .

(b) $(T - I)(T - 2I) = \begin{bmatrix} 0 & 1 \\ 0 & 1 \end{bmatrix}\begin{bmatrix} -1 & 1 \\ 0 & 0 \end{bmatrix} = O$ . $p$ 는 $T$ 의 특성다항식이고, $p(T) = O$ 입니다. 이것은 우연이 아닙니다(27장의 케일리–해밀턴 정리).

23.10 [증명]

$Tv = \lambda v$ 이면 모든 다항식 $p$ 에 대해 $p(T)v = p(\lambda)v$ 임을 보입니다.

풀이

$T^kv = \lambda^kv$ (귀납). $p(T)v = \sum a_kT^kv = \sum a_k\lambda^kv = p(\lambda)v$ .