시그마, 다변수 미적분, 확률, Matrix Calculus
전공책을 보면 다변수 식(Multi variables expression)에 시그마 ∑가 씌어지고 [참고], 또 여기에 미분/편미분이 적용되고, 확률/random process operator가 있고, Matrix Calculus 형태로 된 것을 종종 접한다...
roundhere.tistory.com
http://piramvill2.org/wp/?p=2645
데이터과학을 위한 수학 복습(4)
이번에는 미분과 시그마(∑)를 복습하자. 데이터과학에서 미분은 아주 중요하다. 최대값이나 최솟값을 구하는 도구로 사용되기 때문이다. 미분(derivative)이란 어느 순간에 발생하는 변화량이다. 그 변화량이 기울기이다. 미분은 다음과 같이 표시된다. 함수 가 있을 때, 미분의 정의는, 함수 에 대해 미분한다는 의미는, 가 아주 조금 변했을 때 가 얼마나
piramvill2.org
(0) 시그마가 들어간 편미분은 미분값을 시그마 취한 것과 같다.
(1) 미분하려고 하는 변수인 것과 해당하지 않는 변수를 나누는 것이 우선.
(2) 식은 간단하게 치환하여 생각한다.
(3) 다변수 체인 규칙을 활용한다
g( f( x )) ' = f'(x) + g'(f(x))
시그마가 들어간 편도함수 계산은 머신러닝의 아달린 알고리즘에 이용된다. 비용함수의 그래디언트를 계산하기 위해 각 가중치에 대한 편도함수를 계산할 때, 시그마가 들어간 식을 미분해야 함.