Deep learning

5. Chain Rule

PIYA 2021. 12. 19.

 

 

딥러닝을 공부하기 위해서는 최소한의 미적분학이 필요하다

 

그 중, 합성함수를 미분할 때 쓰는 체인룰에 대해 정리해보자

 

합성함수 \( f(g(x)) \) 에 대한 미분은, 바깥 함수를 미분한 것에 안쪽 함수를 미분하여 곱하면 된다

 

연산결과는 \( f'(g(x)) * g'(x) \) 가 나오는데, 아래와 같이 보면 chain rule 의미를 이해하기 더 쉽다

 

$$ \frac{df}{dx} = \frac{df}{dg} \cdot \frac{dg}{dx} $$

 

 

 

3개 합성함수의 경우에도 마찬가지

 

\( f(g(h(x))) \)를 미분하면, \( f'g(h(x))) * g'(h(x)) * h'(x) \)가 되고

 

아래처럼 표기할 수 있다

 

$$ \frac{df}{dx} = \frac{df}{dg} \cdot \frac{dg}{dh} \cdot \frac{dh}{dx} $$

'Deep learning' 카테고리의 다른 글

7. backpropagation 개념  (0) 2021.12.24
6. L-p Norm, 노름  (0) 2021.12.21
4. 경사하강법, Gradient Descent  (0) 2021.12.18
3. Cost Function  (0) 2021.12.17
2. Loss Function  (0) 2021.12.17

댓글