혼공머신 질문좀 드리겠습니다.

[설진욱]

질문01 

교재 183쪽에 보면 시그모이드 함수가 로지스틱 회귀에 사용된다고 하셨는 데요.

제가 알기로는 이 함수 말고 하이퍼볼릭 탄젠트 함수(tanh)라고 하여 기울기 소실 문제를 좀 더 완화한 함수가 있는 것으로 알고 있는데요.

그러면 시그모이드 함수를 사용하지 말고, 무조건  하이퍼볼릭 탄젠트 함수를 사용하는 것이 좋은 거 아닌가요?

질문02

교재 188쪽에 보면 다중 분류에서 규제 관련 매개 변수 C를 20으로 해주셨는데요.

제가 궁금한것은 규제가 강하니 C를 20으로 약화해 주셨는데, 무엇을 근거로 강한지 약한지 판단하는 건가요?

[Haesun Park]

안녕하세요. 박해선입니다.

로지스틱 회귀는 그 정의 자체가 시그모이드 함수를 사용하는 것입니다.

또 하이퍼볼릭 탄젠트 함수는 범위가 -1~1 사이라 출력 확률을 만들기 위해 사용할 수도 없죠.

아마도 tanh를 순환 신경망의 중간 층에 주로 사용한다는 말을 확대해서 생각하신 것 같습니다.

기본값 C=1 보다 완화해서 C=20 으로 지정했다는 의미입니다. :)

감사합니다.

2021년 4월 26일 (월) 오후 9:35, 설진욱 <ugcad...@gmail.com>님이 작성:

--
이 메일은 Google 그룹스 '머신러닝/딥러닝 도서 Q&A' 그룹에 가입한 분들에게 전송되는 메시지입니다.
이 그룹에서 탈퇴하고 더 이상 이메일을 받지 않으려면 ml-dl-book-qn...@googlegroups.com에 이메일을 보내세요.
웹에서 이 토론을 보려면 https://groups.google.com/d/msgid/ml-dl-book-qna/f06b04df-5ed4-42b9-84e1-5e0c2418a220n%40googlegroups.com을(를) 방문하세요.

[설진욱]

로지스틱 회귀는 제가 착각했군요. 시그모이드 함수 이해했습니다.

두 번째 질문은 이게 아닌데요..ㅠㅠ.. C 값을 크게 하는 게 완화한다는 의미는 제가 이해했습니다.

제 질문은 "규제가 강하니 약화"했는데, 무엇을 근거로 강한지 약한지 판단하는 건가요? 입니다.

2021년 4월 26일 월요일 오후 10시 8분 57초 UTC+9에 haesu...@gmail.com님이 작성:

[Haesun Park]

안녕하세요. 박해선입니다.

규제의 양은 상대적이고 문제마다 다릅니다.

절대적인 기준이 있는 것이 아닌데요. 

질문하신 내용을 잘 이해하지 못하겠네요. ㅠ.ㅠ

감사합니다.

2021년 4월 27일 (화) 오후 8:29, 설진욱 <ugcad...@gmail.com>님이 작성:

웹에서 이 토론을 보려면 https://groups.google.com/d/msgid/ml-dl-book-qna/f4226095-00b1-435f-81b4-ee18b642ed16n%40googlegroups.com을(를) 방문하세요.

[설진욱]

자꾸 질문 드려 죄송합니다 .  그럼, 저자님은 어떠한 판단 또는 기준으로 값을 주나요?

'경험치' 아니면 '감'으로 가는 건가요?

만약 이 문제에서 C=20으로 입력한 값을 C=50으로 문제를 풀어도 된다면, 해당 문제를 풀긴 풀겠습니다 마는 뭔가 명확한 이해 없이 그냥 찝찝하다는 생각이 뇌리를 스치네요.

2021년 4월 27일 화요일 오후 8시 41분 40초 UTC+9에 haesu...@gmail.com님이 작성:

[Haesun Park]

안녕하세요. 박해선입니다.

3장에 나와 있듯이 규제는 모델의 과대적합을 조절하는 기능을 합니다.

처음에는 라이브러리 초깃값을 사용해서 모델을 훈련하고 

과대적합되어 있다면 규제 매개변수를 사용해 규제를 높이고 

반대로 과소적합되어 있다면 규제를 낮춥니다.

답변이 되셨는지 모르겠네요.

감사합니다.

2021년 4월 27일 (화) 오후 8:57, 설진욱 <ugcad...@gmail.com>님이 작성:

웹에서 이 토론을 보려면 https://groups.google.com/d/msgid/ml-dl-book-qna/e14be658-f057-4e01-9fdf-b51ee561f64bn%40googlegroups.com을(를) 방문하세요.