큰수의 법칙(Law of Large Numbers)

큰수의 법칙은 기본적으로 "반복 횟수가 많아질수록 결과가 실제 값에 접근한다"는 아이디어를 나타냅니다. 예를 들어 동전 던지기를 생각해 볼 때, 동전을 단 한 번 던지면 앞면이 나올지 뒷면이 나올지 예측하기 어렵습니다. 그러나 동전을 100번, 1000번, 또는 그보다 더 많이 던지면, 앞면과 뒷면이 나오는 횟수가 점점 비슷해지는 경향을 보일 것입니다. 이처럼, 시도를 많이 할수록 표본 평균이 실제 평균(모평균)에 접근하는 현상을 큰수의 법칙이라고 합니다.

---

큰수의 법칙에는 더 세부적으로 약한 큰수의 법칙과 강한 큰수의 법칙이라는 두 가지 형태가 있습니다. 이 두 개념은 서로 유사하지만, 몇 가지 중요한 차이점도 가지고 있습니다. 이제 이 두 법칙의 수학적 표현을 살펴보고, 그 증명에 대해서도 탐구해 보겠습니다.

약한 큰수의 법칙

$$\forall \epsilon > 0, \lim_{n \to \infty} P(|\overline{X}_n - \mu| < \epsilon) = 1$$

표본의 크기$n$이 무한대로 커질때, 표본 평균$\overline{X}_n$은 모평균$\mu$에 1에 수렴하는 확률로 수렴한다는것을 의미한다.

강한 큰 수의 법칙

$$P(\lim_{n \to \infty} \overline{X}_n = \mu) = 1$$

표본의 크기$n$이 무한대로 커질때, 표본 평균$\overline{X}_n$은 모평균$\mu$에 수렴할 확률이 1이라는것을 의미한다