리지회귀
-
리지회귀( Ridge regression) vs 라소회귀(Lasso regression) / L1 Norm vs L2 NormML 2021. 1. 21. 02:18
L1 Norm vs L2 Norm L1 Norm : 빨간색, 파란색, 노란색 경로 : 경로 길이 = 모두 동일한 최단 경로 길이 인 12 : 두 지점 사이를 이동하는 많은 경로가 존재 L2 Norm : 초록색 경로 : 6√2 : 두 점 사이를 가장 빠르게 가는 한가지 경로 존재 리지회귀 Ridge regression, 라소회귀 Lasso regressio = 선형회귀 + 규제 ✔️규제 : 모델이 과대적합이 되지 않도록 강제로 제한하기 위해 규제 : 가중치의 절대 값을 가능한 작게 만든다 라소회귀 리지회귀 선형회귀 + L1규제 선형회귀 + L2규제 계수를 0에 가깝게 하려하는데 어떤 계수는 정말 0이 된다 : 모델에서 완전히 제외되는 특성이 생긴다 --> 쉬운 모델 계수를 0에 가깝게 하려 하는데 정말 0..