딥러닝을 공부하기 위해서는 최소한의 미적분학이 필요하다
그 중, 합성함수를 미분할 때 쓰는 체인룰에 대해 정리해보자
합성함수 \( f(g(x)) \) 에 대한 미분은, 바깥 함수를 미분한 것에 안쪽 함수를 미분하여 곱하면 된다
연산결과는 \( f'(g(x)) * g'(x) \) 가 나오는데, 아래와 같이 보면 chain rule 의미를 이해하기 더 쉽다
$$ \frac{df}{dx} = \frac{df}{dg} \cdot \frac{dg}{dx} $$
3개 합성함수의 경우에도 마찬가지
\( f(g(h(x))) \)를 미분하면, \( f'g(h(x))) * g'(h(x)) * h'(x) \)가 되고
아래처럼 표기할 수 있다
$$ \frac{df}{dx} = \frac{df}{dg} \cdot \frac{dg}{dh} \cdot \frac{dh}{dx} $$
'Deep learning' 카테고리의 다른 글
7. backpropagation 개념 (0) | 2021.12.24 |
---|---|
6. L-p Norm, 노름 (0) | 2021.12.21 |
4. 경사하강법, Gradient Descent (0) | 2021.12.18 |
3. Cost Function (0) | 2021.12.17 |
2. Loss Function (0) | 2021.12.17 |
댓글