[Do it 딥러닝 입문] 63p의 에포크 반복을 이용한 가중치와 절편 업데이트에서 질문드립니다.

[­박찬훈]

조금 외람된 질문일 수도 있습니다만 책에서 배운대로 오차 역전파를 이용해서 보스턴 집값을 예측하는 회귀선을 그어보고자 시도 했는데요. 

보스턴의 방갯수와 집값간의 scatter를 보니 정의 상관관계가 보여 두개를 변수로하는 회귀선을 시도하였습니다. 

w = 1.0

b = 1.0

x = chan_frame.RM

y = chan_frame.price

다음과 같이 1.0 1.0으로 초기화 하고

for x_i, y_i in zip(x, y):

  y_hat = x_i*w+ b

  err = y_i-y_hat

  w_rate = x_i

  w = w + w_rate * err

  b = b + 1 * err

  print(w, b)

코드를 실행해보니 예제에서와는 다르게 가중치와 절편이 크게 +,- 로 요동치더라구요. x[0]를 이용해서 업데이트 할 때부터

예측값이 y[0]값이랑 크게 차이나구요. 그리고 무엇보다 문제는 마지막에 inf 값이 뜨더니 그 이후로는 NaN으로 결측이 되어버렸습니다.

제가 뭘 잘못한 것일까요..? 변수간 상관이 ==> 회귀선을 찾는다 이게 틀린걸까요?

[Haesun Park]

안녕하세요. 박해선입니다.

이 알고리즘은 완벽하지 않지만 5장의 학습률까지 적용하면 

어느 정도 안정적인 결과를 얻을 수 있습니다.

책의 코드는 머신러닝의 작동 방식을 학습하기 위한 것입니다.

다양한 문제에 적용하려면 사이킷런 등과 같은 라이브러리를 사용하는 것이 좋습니다.

감사합니다!

2022년 2월 16일 (수) 오후 10:28, ­박찬훈 <ribbo...@snu.ac.kr>님이 작성:

--
이 메일은 Google 그룹스 '머신러닝/딥러닝 도서 Q&A' 그룹에 가입한 분들에게 전송되는 메시지입니다.
이 그룹에서 탈퇴하고 더 이상 이메일을 받지 않으려면 ml-dl-book-qn...@googlegroups.com에 이메일을 보내세요.
웹에서 이 토론을 보려면 https://groups.google.com/d/msgid/ml-dl-book-qna/2eb4a35e-b0de-436d-b4d8-4d6226af32fcn%40googlegroups.com을(를) 방문하세요.