1. 과적합
- Overfitting, Overfitting: 훈련 데이터를 과도하게 훈련시키는 것을 의미합니다.
2. 과적합 솔루션
(1) 백업
- 훈련 데이터 증가
(2) 데이터 확장
(3) 조기 정지
(4) L1, L2 정규화
- 손실+정산기간 첨부합니다.
(5) 실패
- 일부 노드를 임의로 제거합니다.
(6) 드롭커넥트
- 일부 가중치를 0으로 만듭니다.
(7) 철갑상어 라벨
(8) 배치 정규화
- 이는 레이어 간의 스택 정규화를 위한 것입니다.
(9) 라벨 스무딩
- 특정 비율을 통해 실제 값을 조정합니다.
(10) 노이즈 주입
- 입력 자체 또는 레이어 중간에 임의 노이즈 추가
(11) 교차 검증
- 학습 데이터, 검증 데이터, 테스트 데이터로 구분되며 테스트 데이터는 마지막 테스트에만 사용됩니다.
- k-fold: 기차 데이터를 분할하는 방법에 관한 것입니다.
- 검증은 k번으로 나누기 때문에 시간이 오래 걸릴 수 있습니다.
