Batch Normalization 위 수식을 자세히 알 필요는 없고, 미니배치의 평균, 분산을 이용하여 값을 구한다는 것만 알면 된다. 관심이 간다면 아래 Reference에 링크해뒀으니 논문을 읽어봐도 좋을 것이다. 그래서 결론은 다음과 같다. 결국 Batch Normalization(이하 배치 정규화)는 미니배치의 평균, 분산에 영향을 받는다. 평균, 분산은 미니배치의 크기에 따라 달라지므로 Batch Size에 따라 미니배치의 평균, 분산이 변한다는 것. 따라서 Batch Size는 배치 정규화에 영향을 미친다. 즉, Batch Size에 따라 모델의 성능이 달라질 수 있다! Batch Size 정리 Batch Size가 커질수록.. Batch Size가 작아질수록.. 노이즈 ↓ 노이즈 ↑ 일반화..