본문으로 바로가기

간단 순서 정리

category AI/PyTorch 2019. 11. 13. 13:47
336x280(권장), 300x250(권장), 250x250, 200x200 크기의 광고 코드만 넣을 수 있습니다.

 

 

 

 

 

1. 데이터 준비 (트레이닝, 검증, 테스트 셋)

 

2. Baseline model  만들기 (기준점수 넘을때까지)

  • 오차 함수 선택 (loss/cost function)
  • 최적화 (optimizer)

3. 과적합될 때까지 역량늘리기 

  • 레이어 추가
  • 가중치 늘리기
  • 에포크 늘리기

트레이닝 정확도는 증가하지만 검증 정확도는 증가하지않고 떨어지기 시작하면 중단. (과적합)

 

4. 가중치 규제 적용

  • 드롭아웃 추가 (일반적으로 0.2 작은값으로부터 시작)
  • 아키텍쳐 변경 (활성화 함수, 레이어수, 가중치크기 변경)
  • L1 or L2 regularization 적용
  • learning rate 변경
  • 특성추가 및 데이터셋 

 

 

 

 

 

'AI > PyTorch' 카테고리의 다른 글

[numpy] .all() , .any()  (0) 2019.12.18
[PyTorch] MNIST CNN  (0) 2019.11.06
[PyTorch] Convolution  (0) 2019.10.29
[PyTorch] MNIST with Batch Normalization  (0) 2019.10.29
[PyTorch] MNIST with Dropout  (0) 2019.10.28