선형모델1 파이썬 경사하강법(Gradient Decent) 선형모델 기울기 구하기 혼자 공부하려고 정리했어요~ 경사하강법은 가설 h (hypothesis) = 가중치(W) * X Cost함수 MSE(Mean Square Error, 평균 제곱 오차법)을 사용하여 최적의 기울기를 찾는 법 입니다. Cost(W) = (1/n) * sum((H(X) - Y)^2) W값을 0.6~3.5로 0.1 (leaning_rate) 간격으로 추정해서 cost를 구했습니다. 여기서 각 지점의 기울기를 구했는데요. Cost(W)를 W로 미분하면 g (Gradient) = @Cost(W)/@W = (2/n)*sum((H(X) - Y)*X) W_t+1 = W_t - g * (leaning_rate) g가 0에 수렴할때까지 학습합니다. 초기 학습되지 않았던 기울기에서 cost가 가장 낮은 지점을 찾아 기울기 값.. 2022. 12. 8. 이전 1 다음 반응형