02_확률

1. 표본공간과 사건

1.1. 표본공간

• 표본공간 (sample space; Ω)

  • 어떤 시행에서 일어날 수 있는 모든 가능한 결과의 집합

• 표본점 (sample point; $w_i$)

  • 표본공간을 구성하는 개개의 원소
  • Ω = {w₁, w₂, ⋯, wₙ}

• 표본공간의 분류

  • 이산 표본공간
    • 원소가 유한개이거나 셀 수 있는 경우
    • 예: 주사위 눈
      • 주사위를 던진 횟수의 표본공간 $\Omega =Z^{+}$ (단, $Z^{+}$는 양의 정수의 집합)
  • 연속 표본공간
    • 원소가 실수 구간으로 이루어진 경우
    • 예: 전구의 수명
      • 전구 수명의 표본공간 $\Omega =\{x|0\le x<\infty \}$
      • 전구 수명이 100시간 이상 200시간 미만일 사건 $A=\{x|100\le x<200\}$

• 예제 2-4

  • 표적지 점수의 표본공간 ${\Omega }_S=\{1,2,3,4,5\}$
  • 표적지 자취의 표본공간 ${\Omega }_R=\{(x,y)|x^2+y^2\le 25^2\}$

1.2. 사건

• 사건(event)

  • 표본공간의 임의의 부분집합

• 특수한 사건

  • 공사건: 표본점을 하나도 포함하지 않는 사건 (∅)
  • 근원사건: 한 표본점만으로 이루어진 사건 {wᵢ}
  • 전사건: 표본공간의 모든 표본점을 포함하는 사건 (Ω)

1.3. 사건의 연산

• 사건의 연산

  • 합사건 (A∪B): A 또는 B 중 적어도 한 사건 발생
  • 곱사건 (A∩B): A와 B가 동시에 발생
  • 여사건 (Aᶜ): A가 일어나지 않는 사건
  • ==배반사건 (A∩B = ∅)==

• 사건의 연산 법칙

  • 교환법칙, 결합법칙, 분배법칙
  • 드 모르간의 법칙: $(A\cup B{)}^c=A^c\cap B^c$

• 예제 2-6

  • $S_3\cup R_1=\{(x,y)|(10^2<x^2+y^2\le 15^2)\text{ 또는 }(0\le x,0\le y)\}$
  • $S_3\cap R_1=\{(x,y)|(10^2<x^2+y^2\le 15^2)\text{ 그리고 }(0\le x,0\le y)\}$

2. 확률

• 분수 정리나 소수점 표기 안해도 됨

2.1. 수학적 확률

• 라플라스 확률 (수학적 확률)
  • 사건 $A$의 확률은 $P(A)=\frac{n}{N}$으로 정의할 수 있다.
  • 한계: 표본공간이 유한하고($N$) 각 근원사건의 가능성이 같을 때만($n$) 적용 가능

2.2. 통계적 확률

• 통계적 확률 (경험적 확률)

  • $P(A)={\lim }_{n\to \infty }{r}_n/n$ (상대도수의 극한)

• 확률의 공리 (Kolmogorov)

  1. 임의의 사건 $A$에 대하여, $0\le P(A)\le 1$
  2. $P(\Omega )=1$
  3. 서로 배반사건이면 $P(A_1\cup A_2\cup \cdots )=P(A_1)+P(A_2)+\cdots$

• 확률의 성질

  • $P(\varnothing )=0$ (공사건의 확률)
  • $P(A^c)=1-P(A)$ (여사건의 확률)
  • A ⊂ B이면 P(A) ≤ P(B)
  • 덧셈정리: $P(A\cup B)=P(A)+P(B)-P(A\cap B)$
    • 배반일 때: $P(A\cup B)=P(A)+P(B)$

2.3. 기하학적 확률

• 기하학적 확률

  • 표본공간과 사건 A가 무한집합인 경우에 적용한다.
  • 영역의 크기 비율 = (사건 영역 크기)/(전체 영역 크기)

• 예제 2-11. 실수 a가 $-2\le a\le 6$을 만족할 때, $x^2+ax+a=0$이 실근을 가질 확률

  • $a^2-4a=a(a-4)\ge 0$

• 예제 2-12

  • $P(S_3)=\frac{(15^2-10^2)\pi }{25^2\pi }=\frac{125}{625}=\frac{1}{5}$
  • $P(R_1)=\frac{1}{4}$
  • $P(S_3\cap R_1)=\frac{1}{20}$
  • $P(S_3\cup R_1)=1/5+1/4-1/20=2/5$

3. 조건부 확률

• 비복원추출 vs. 복원추출

  • 비복원추출: 되돌려 놓지 않음 → 종속 (조건부 확률)
  • 복원추출: 추출한 것을 되돌려 놓음 → 독립

• 조건부 확률 (conditional probability)

  • 사건 B가 일어났다는 조건 아래에서 A가 일어날 확률
  • $P(A|B)=\frac{P(A\cap B)}{P(B)},P(B)\ne 0$
  • 핵심 차이: 조건부 확률에서는 표본공간이 Ω에서 B로 축소됨

• 주의: $P(A|B)\ne P(A\cap B)$

  • $P(A\cap B)$ (P of A and B)
    • 전체 Ω 중 A와 B가 동시에 발생할 확률
  • $P(A|B)$ (P of A given B)
    • B가 발생한 조건 하에서 A가 발생할 비율

• 예제 2-13. 주사위를 2번 던지는 시행

  • 한 번은 짝수이고, 한 번은 3일 확률
    • $P(C)=\left(\genfrac{}{}{0ex}{}{2}{1}\right)\times 1/12=1/6$
  • 첫 번째가 짝수이고, 두 번째가 3일 확률
    • $P(A,B)=3/6\times 1/6=1/12$
  • 첫 번째가 짝수일 때, 두 번째가 3일 확률
    • $P(B|A)=\frac{P(B,A)}{P(A)}=\frac{1/12}{1/2}=\frac{1}{6}$

3.1. 곱셈정리

• 곱셈정리 (joint rule)

  • $P(A\cap B)=P(B)P(A|B)=P(A)P(B|A)$

• 일반화

  • $P(A_1,A_2,\dots ,A_n)=P(A_1)P(A_2|A_1)P(A_3|A_1,A_2)\cdots P(A_n|A_1,\dots ,A_{n-1})$

4. 독립사건

• 독립사건

  • 한 사건이 다른 사건의 발생에 영향을 미치지 않을 때

  • $P(A)=P(A|B)$ 또는 $P(B)=P(B|A)$

  • 독립이 아니면 종속(dependent)

• 독립사건의 곱셈정리

  • $P(A\cap B)=P(A)P(B)$

• 독립이면 다음도 독립

  • A와 Bᶜ
  • Aᶜ와 B
  • Aᶜ와 Bᶜ

• 배반과 독립의 관계

  • A, B가 배반이면 → 종속 (P(A)>0, P(B)>0인 경우)
  • A, B가 독립이면 → 결코 배반이 아님

5. 베이즈 정리

• 역확률

  • $P(A|B)$를 알 때 반대 방향 $P(B|A)$ 계산
  • $P(A|B)=\frac{P(B|A)\times P(A)}{P(B)}$

• 분할 (partition)

  • A₁, A₂, …, Aₙ이 다음을 만족할 때
  • Aᵢ ⊂ A
  • Aᵢ ∩ Aⱼ = ∅ (i ≠ j)
  • A₁ ∪ A₂ ∪ ⋯ ∪ Aₙ = A

• 전확률 정리 (total probability)

  • $P(B)={\sum }_{k=1}^{n}P(A_k)P(B|A_k)$

• 베이즈 정리

  • 주어진 조건에서, 어떤 사건이 실제로 일어날 확률을 산출하는 기법
  • $P(A_i|B)=\frac{P(A_i,B)}{P(B)}=\frac{P(A_i)P(B|A_i)}{{\sum }_{k=1}^{n}P(A_k)P(B|A_k)}$

• 용어 정리

  • 사전확률 ($P(A_i)$; prior probability) - 과거 경험/지식
  • 우도 ($P(B|A_i)$; likelihood) - 가설을 지지하는 정도
  • 사후확률 ($P(A_i|B)$ posterior probability) - 새 정보 반영 후 수정된 확률
  • 증거 ($P(B)$; evidence)

• 빈도주의 vs 베이지안 확률

  • 빈도주의: 확률을 고정된 참값으로 봄, 실험 반복 빈도로 계산

  • 베이지안: 사전확률을 주관적으로 설정 후 새 정보로 사후확률 수정

  • 충분한 정보가 없을 때, 희귀 사건일 때 베이지안 접근이 유용

  • 베이지안 접근 순서: 사전 확률 설정 → 새 정보 수집 → 사후 확률로 수정

5.1. 예제 1

• Jeff가 David/Ken을 다음 시합에서 만날 확률은 다음과 같다.

  • $P(D)=\frac{1}{3}$, $P(K)=\frac{2}{3}$

• Jeff가 David/Ken을 이길 확률은 다음과 같다.

  • $P(w|D)=\frac{7}{10}$, $P(w|K)=\frac{1}{10}$

• Jeff가 다음 시합에서 이길 확률 $P(w)$은 다음과 같다.

  • $P(w)=P(D)P(w|D)+P(K)P(w|K)$
  • $P(w)=\frac{1}{3}\times \frac{7}{10}+\frac{2}{3}\times \frac{1}{10}=\frac{9}{30}=\frac{3}{10}$

• Jeff가 다음 시합에서 이겼을 때, Jeff의 상대는 다음과 같다.

  • $P(D|w)=P(D)P(w|D)/P(w)=\frac{1}{3}\times \frac{7}{10}\times \frac{10}{3}=\frac{7}{9}$
  • $P(K|w)=P(K)P(w|K)/P(w)=\frac{2}{3}\times \frac{1}{10}\times \frac{10}{3}=\frac{2}{9}$

5.2. 예제 2

• 조난자는 세 지역 중 한 곳에 위치하며, 각 지역에 위치할 확률은 동일하다.

  • $P(A_1)=P(A_2)=P(A_3)=\frac{1}{3}$

• 각 경우에 따른 구조 실패 확률은 다음과 같다.

  • $P(F|A_1)=0.4,P(F|A_2)=1,P(F|A_3)=1$

• 구조 자체를 실패할 확률 $P(F)$은 다음과 같다.

  • $P(F)=P(A_1)P(F|A_1)+P(A_2)P(F|A_2)+P(A_3)P(F|A_3)$
  • $P(F)=\frac{1}{3}\times \frac{4}{10}+\frac{1}{3}\times \frac{10}{10}+\frac{1}{3}\times \frac{10}{10}=\frac{24}{30}=\frac{8}{10}$

• 수색 실패 시, 각 지역에 조난자가 있을 확률은 다음과 같다.

  • $P(A_1|F)=P(A_1)P(F|A_1)/P(F)=\frac{1}{3}\times \frac{4}{10}\times \frac{10}{8}=\frac{2}{12}$
  • $P(A_2|F)=P(A_2)P(F|A_2)/P(F)=\frac{1}{3}\times \frac{10}{10}\times \frac{10}{8}=\frac{5}{12}$
  • $P(A_3|F)=P(A_3)P(F|A_3)/P(F)=\frac{1}{3}\times \frac{10}{10}\times \frac{10}{8}=\frac{5}{12}$