변수가 둘 이상인 함수, 그래프와 등위선, ℝⁿ의 거리, 다변수 함수의 극한과 연속
다변수 미적분 (MV)
변수가 여럿인 함수의 미분과 적분입니다. 편미분과 그래디언트, 연쇄법칙과 야코비안, 헤세 행렬과 최적화, 라그랑주 승수, 중적분과 변수 변환, 벡터장과 적분 정리, 행렬 미적분까지 다룹니다.
머신러닝 모델은 파라미터가 수백만 개인 함수이고, 학습은 그 함수의 기울기(그래디언트)를 따라 내려가는 것입니다. 물리의 전기장, 유체의 흐름, 열의 확산은 공간의 각 점에 값이나 벡터가 붙은 함수입니다. 이 과목은 미적분학의 한 변수 이론을 여러 변수로 넓히고, 그때 선형대수(벡터와 행렬)가 자연스럽게 미분의 언어가 된다는 것을 봅니다.
- 미적분학과 선형대수 1부(벡터, 행렬)를 안다고 가정합니다. 각 단원의 선수 단원을 보면 무엇이 필요한지 알 수 있습니다.
- 머신러닝 논문은 1~6장과 11장을, 물리·공학 논문은 1~10장을 주로 씁니다.
- 수치 답은 분수, π·√가 든 식으로 써도 채점됩니다.
| 부 | 단원 | 수 | 진도 |
|---|---|---|---|
| 1부. 다변수 미분 | MV.1–MV.3 | 3 | |
| 2부. 최적화 | MV.4–MV.6 | 3 | |
| 3부. 다변수 적분 | MV.7–MV.8 | 2 | |
| 4부. 벡터 미적분 | MV.9–MV.10 | 2 | |
| 5부. 행렬 미적분 | MV.11 | 1 |
1부. 다변수 미분
- MV.1
- MV.2
- 편미분, 고계 편미분과 혼합 편미분의 대칭, 방향도함수, 그래디언트와 그 기하학적 뜻, 등위선과의 수직
- MV.3
- 선형근사와 미분 가능성, 야코비 행렬, 다변수 연쇄법칙(행렬곱으로서), 계산 그래프와 역전파
2부. 최적화
- MV.4
- 임계점, 헤세 행렬, 이차 테일러 근사, 극대·극소·안장점 판정, 볼록함수
- MV.5
- 경사하강법과 학습률, 이차함수에서의 수렴과 조건수, 확률적 경사하강법과 모멘텀, 뉴턴 방법
- MV.6
- 제약이 있는 최적화, 등위선이 접하는 조건, 라그랑주 승수법, 여러 제약, 부등식 제약과 KKT 조건의 개요
3부. 다변수 적분
- MV.7
- 이중적분의 정의, 반복적분과 푸비니 정리, 일반 영역에서의 적분과 순서 바꾸기, 삼중적분, 결합 확률밀도와 기댓값
- MV.8
- 적분의 변수 변환 공식, 극좌표·원기둥좌표·구면좌표, 가우스 적분, 확률밀도의 변수 변환
4부. 벡터 미적분
- MV.9
- 벡터장, 곡선의 매개화, 스칼라 선적분과 벡터 선적분(일), 보존장과 퍼텐셜, 선적분의 기본정리, 그린 정리
- MV.10
- 발산과 회전, 라플라시안, 곡면적분과 선속, 발산 정리, 스토크스 정리, 맥스웰 방정식으로 읽기
5부. 행렬 미적분
- MV.11
- 벡터·행렬에 대한 미분의 표기와 배치 관례, 자주 쓰는 공식(선형·이차형식·노름·대각합·로그행렬식), 소프트맥스와 교차 엔트로피, 선형회귀와 신경망 한 층의 그래디언트