수학 #선형 #비선형 #머신러닝
-
머신러닝에서 선형과 비선형Math 2021. 7. 25. 15:56
많은 머신러닝 서적에서 선형과 비선형이라는 말이 등장한다. 개념이 잘 잡히지 않아서 정리해본다. 선형과 비선형의 개념은 선형대수학 책에서 선형변환을 통해 정의하게 된다. 선형성(linearity)를 따르는 변환 또는 함수들은 선형 변환, 선형함수라고 하고, 그 외의 모든 함수들은 비선형 변환, 비선형함수(non-linear function)이라고 한다. 그렇다면, 선형성이 도대체 무엇일까? 위키피디아에는 다음과 같이 선형성이 수학적으로 정의되어 있다. 선형성의 정의 함수 $f$가 선형이라면 가산성(Additivity), 임의의 수(실수나 복소수) $x$, $y$에 대해 $f(x+y) = f(x) + f(y)$가 항상 성립한다. 동차성(Homogeneity), 임의의 수 $x$ 나 $\alpha$에 대해 ..