Linearism › 미분방정식 › DE.6

6장. 비선형계와 안정성

미분방정식 · 3부. 풀이 도구와 확장

고급 · 약 15분 · 연습문제 5

요약

평형점, 야코비 행렬로 선형화, 진자와 포식자–피식자 모형, 리아푸노프 함수, 경사 흐름, 극한 주기와 혼돈 맛보기

현실의 계는 대부분 비선형이라 식으로 풀리지 않습니다. 그래도 “어디에 멈춰 있을 수 있는가(평형점)”, “조금 밀면 돌아오는가(안정성)”는 알 수 있습니다. 평형점 근처에서는 비선형계도 5장의 선형계처럼 보이기 때문입니다. 이 장의 도구인 선형화와 리아푸노프 함수는 진자에서 생태계, 경사하강법의 수렴 증명까지 두루 쓰입니다.

6.1 평형점

정의 6.1. 자율계 x′=f(x)\mathbf x' = \mathbf f(\mathbf x)(tt가 식에 직접 나오지 않음)에서 f(x∗)=0\mathbf f(\mathbf x^*) = \mathbf 0인 점을 평형점(equilibrium) 또는 고정점이라 합니다. 그곳에서 출발하면 영원히 머뭅니다.

예를 들어 x′=x(1−x)x' = x(1 - x)(1장의 로지스틱 방정식)의 평형점은 x=0x = 0과 x=1x = 1입니다. 인구가 정확히 0이거나 정확히 수용력이면 변하지 않습니다.

정의 6.2. 평형점 근처에서 출발한 해가 계속 근처에 머물면 안정(stable), 게다가 x∗\mathbf x^*로 다가가면 점근적으로 안정(asymptotically stable), 아니면 불안정(unstable)이라 합니다.

예를 들어 로지스틱 방정식에서 xx가 1보다 조금 작으면 x′>0x' > 0이라 1로 올라가고, 조금 크면 x′<0x' < 0이라 1로 내려옵니다. 그래서 x=1x = 1은 점근적으로 안정입니다. 반면 x=0x = 0 근처에서 조금이라도 양수이면 x′>0x' > 0이라 멀어지므로 불안정입니다. 그릇 바닥의 구슬은 안정, 언덕 꼭대기의 구슬은 불안정인 것과 같습니다.

6.2 선형화

x=x∗+u\mathbf x = \mathbf x^* + \mathbf u로 두고 테일러 전개하면 u′=f(x∗+u)≈Ju\mathbf u' = \mathbf f(\mathbf x^* + \mathbf u) \approx J\mathbf u입니다. 여기서

J=(∂fi∂xj)x∗J = \left(\frac{\partial f_i}{\partial x_j}\right)_{\mathbf x^*}

는 야코비 행렬(Jacobian matrix)입니다(다변수 미적분 3장).

정리 6.3 (선형화 정리, 개요). JJ의 모든 고윳값의 실수부가 음수이면 x∗\mathbf x^*는 점근적으로 안정, 하나라도 양수이면 불안정입니다. 실수부가 0인 고윳값이 있으면(중심 등) 선형화로는 판정할 수 없습니다.

6.3 진자

길이 ℓ\ell인 진자의 각도 θ\theta는 θ′′=−gℓsin⁡θ−cθ′\theta'' = -\frac g\ell\sin\theta - c\theta'를 만족합니다. sin⁡θ\sin\theta 때문에 비선형입니다. x1=θx_1 = \theta, x2=θ′x_2 = \theta'로 두면 f=(x2,−gℓsin⁡x1−cx2)\mathbf f = (x_2, -\frac g\ell\sin x_1 - cx_2).

  • 평형점: x2=0x_2 = 0, sin⁡x1=0\sin x_1 = 0에서 (0,0)(0, 0)(아래로 매달림)과 (π,0)(\pi, 0)(거꾸로 섬).
  • 야코비 행렬 J=(01−gℓcos⁡x1−c)J = \begin{pmatrix}0 & 1\\-\frac g\ell\cos x_1 & -c\end{pmatrix}.
    • (0,0)(0, 0): det⁡=g/ℓ>0\det = g/\ell > 0, tr=−c<0\mathrm{tr} = -c < 0 → 안정(나선).
    • (π,0)(\pi, 0): det⁡=−g/ℓ<0\det = -g/\ell < 0 → 안장점, 불안정.

작은 각도에서 sin⁡θ≈θ\sin\theta \approx \theta로 바꾸면 3장의 조화 진동자가 되고, 주기는 2πℓ/g2\pi\sqrt{\ell/g}입니다.

6.4 포식자–피식자 모형

토끼 xx와 여우 yy:

x′=ax−bxy,y′=−cy+dxy.x' = ax - bxy, \qquad y' = -cy + dxy.

토끼는 혼자 있으면 늘고 여우를 만나면 줄며, 여우는 혼자 있으면 줄고 토끼를 먹으면 늡니다(로트카–볼테라 방정식, Lotka–Volterra).

  • 평형점: (0,0)(0, 0)과 (c/d,a/b)(c/d, a/b).
  • (0,0)(0, 0): J=diag(a,−c)J = \mathrm{diag}(a, -c) → 안장점.
  • (c/d,a/b)(c/d, a/b): J=(0−bc/dad/b0)J = \begin{pmatrix}0 & -bc/d\\ad/b & 0\end{pmatrix}, 고윳값 ±iac\pm i\sqrt{ac} → 선형화로는 중심. 실제로 보존량이 있어 닫힌 궤도가 됩니다. 두 개체 수가 주기적으로 오르내리며, 여우의 정점이 토끼의 정점보다 늦습니다.

6.5 리아푸노프 함수

선형화가 실패하거나 평형점에서 먼 곳까지 알고 싶을 때 씁니다.

정리 6.4 (리아푸노프). V(x∗)=0V(\mathbf x^*) = 0이고 근처에서 V(x)>0V(\mathbf x) > 0인 함수 VV가

ddtV(x(t))=∇V⋅f(x)≤0\frac{d}{dt}V(\mathbf x(t)) = \nabla V\cdot\mathbf f(\mathbf x) \le 0

을 만족하면 x∗\mathbf x^*는 안정이고, <0< 0(x≠x∗\mathbf x \ne \mathbf x^*)이면 점근적으로 안정입니다.

VV를 리아푸노프 함수(Lyapunov function)라 합니다. 해를 몰라도, “에너지 같은 양이 계속 줄어든다”는 것만 보이면 됩니다. 감쇠 진자에서는 역학적 에너지 V=12θ′2+gℓ(1−cos⁡θ)V = \frac12\theta'^2 + \frac g\ell(1 - \cos\theta)가 리아푸노프 함수이고, V˙=−cθ′2≤0\dot V = -c\theta'^2 \le 0입니다.

6.6 경사 흐름

정의 6.5. x′=−∇f(x)\mathbf x' = -\nabla f(\mathbf x)를 경사 흐름(gradient flow)이라 합니다. 경사하강법 xk+1=xk−η∇f(xk)\mathbf x_{k+1} = \mathbf x_k - \eta\nabla f(\mathbf x_k)는 이 방정식을 간격 η\eta의 오일러 방법(7장)으로 푼 것입니다.

예를 들어 f(x,y)=x2+3y2f(x, y) = x^2 + 3y^2이면 경사 흐름은 x′=−2xx' = -2x, y′=−6yy' = -6y이고 해는 x=x0e−2tx = x_0e^{-2t}, y=y0e−6ty = y_0e^{-6t}입니다. 두 좌표 모두 0으로 가지만 yy가 세 배 빨리 줄어, 궤도는 먼저 xx축으로 붙은 뒤 원점으로 갑니다.

ff 자체가 리아푸노프 함수입니다: ddtf(x)=∇f⋅x′=−∥∇f∥2≤0\frac{d}{dt}f(\mathbf x) = \nabla f\cdot\mathbf x' = -\|\nabla f\|^2 \le 0. 그래서 경사 흐름은 항상 내리막이고, 평형점은 ff의 임계점입니다. 국소 최솟값에서 야코비 행렬은 −∇2f-\nabla^2f이므로 고윳값이 모두 음수라 안정, 안장점에서는 불안정합니다(최적화 2장).

6.7 극한 주기와 혼돈

  • 극한 주기(limit cycle): 주변 궤도가 끌려드는 고립된 닫힌 궤도. 심장 박동, 반 데르 폴 발진기, 생체 시계. 선형계에는 없는 비선형 현상입니다.
  • 혼돈(chaos): 3차원 이상에서는 결정론적인 방정식인데도 초기값의 아주 작은 차이가 기하급수적으로 커져 장기 예측이 불가능할 수 있습니다. 로렌츠 방정식(날씨 모형)이 대표적이며, “나비 효과”라는 말이 여기서 나왔습니다.

6.8 이 장의 요약

  • 평형점 f(x∗)=0\mathbf f(\mathbf x^*) = \mathbf 0. 야코비 행렬의 고윳값으로 안정성 판정.
  • 진자: 아래는 안정, 위는 안장점. 포식자–피식자: 주기적 진동.
  • 리아푸노프 함수: 에너지처럼 줄어드는 양이 있으면 안정.
  • 경사 흐름 x′=−∇f\mathbf x' = -\nabla f: ff가 리아푸노프 함수. 경사하강법은 그 이산판.

쓰이는 곳. 제어공학의 안정성 해석, 생태학·역학(SIR 모형의 평형점과 집단면역 문턱), 화학 반응 진동, 신경과학의 뉴런 모형(호지킨–헉슬리), 딥러닝 이론의 경사 흐름 분석과 “edge of stability” 연구, GAN 학습의 회전하는 동역학(고윳값이 허수에 가까움), 확산 모델과 점수 기반 모델의 확률 흐름 ODE가 이 장의 개념을 씁니다.

문제

6.1 [계산] · 확인 문제

x′=x(3−x−y)x' = x(3 - x - y), y′=y(x−1)y' = y(x - 1)의 평형점 가운데 x,yx, y가 모두 양수인 점을 구합니다.

좌표 값
xx [?]
yy [?]
정답
1
2
풀이

y≠0y \ne 0이면 x=1x = 1, x≠0x \ne 0이면 3−x−y=03 - x - y = 0에서 y=2y = 2입니다.

6.2 [계산] · 확인 문제

위 평형점에서 야코비 행렬의 대각합과 행렬식을 구합니다.

값 답
대각합 [?]
행렬식 [?]
정답
-1
2
풀이

J=(3−2x−y−xyx−1)J = \begin{pmatrix}3 - 2x - y & -x\\y & x - 1\end{pmatrix}에 (1,2)(1, 2)를 넣으면 (−1−120)\begin{pmatrix}-1 & -1\\2 & 0\end{pmatrix}, 대각합 −1-1, 행렬식 22입니다. 그러므로 점근적으로 안정입니다(판별식 1−8<01 - 8 < 0이라 나선).

6.3 [계산] · 확인 문제

길이 1 m인 진자의 작은 진폭 주기는 몇 초인가요? (g=9.8g = 9.8, 소수 넷째 자리까지)

정답
2.0071
풀이

2π1/9.8≈2.00712\pi\sqrt{1/9.8} \approx 2.0071초입니다.

6.4 [계산] · 확인 문제

로트카–볼테라 방정식 x′=2x−xyx' = 2x - xy, y′=−3y+xyy' = -3y + xy의 공존 평형점을 구합니다.

좌표 값
xx [?]
yy [?]
정답
3
2
풀이

(c/d,a/b)=(3/1,2/1)=(3,2)(c/d, a/b) = (3/1, 2/1) = (3, 2)입니다.

6.5 [증명]

경사 흐름 x′=−∇f(x)\mathbf x' = -\nabla f(\mathbf x)에서 f(x(t))f(\mathbf x(t))가 시간에 따라 줄어듦을 보입니다.

풀이

연쇄법칙으로 ddtf(x(t))=∇f(x)⋅x′(t)=−∥∇f(x)∥2≤0\frac{d}{dt}f(\mathbf x(t)) = \nabla f(\mathbf x)\cdot\mathbf x'(t) = -\|\nabla f(\mathbf x)\|^2 \le 0이고, 등호는 임계점에서만 성립합니다.