배움 - 차근차근 기록하자/[개발] 딥러닝 🍩
[딥러닝 문제 해결] WideDeep 신경망이 제대로 train되지 않는 현상
문제 WideDeep 신경망이 제대로 train되지 않는 현상 원인 연결층에 연결된 두 층은 아래와 같다. 1. input - dense(30) - dense(30) 2. input 추정 원인 1: 전처리 되지 않은 input layer 값을 그대로 연결층에 연결. -> use batch normalization 추정 원인 2: 연결층에 포함된 음수 값. -> use activation function 4가지 방식으로 실험 1. input - bn 2. input - af(sigmoid / relu) 3. input - bn - af 4. input - af - bn Input - activation function (relu)에서만 문제가 발생한 것을 보아 WideDeep 신경망이 제대로 train되지..
2022. 4. 29. 06:00