Skip to content

Statistics › 機率與分配 › 機率基礎

機率基礎 (Probability Basics) ​

機率是 0 到 1 之間的數字,表示事件發生的可能性。

三種詮釋 ​

詮釋定義例子
古典 (classical)有利結果數 ÷ 總結果數(各結果等可能)骰到 3 的機率 = 1/6
頻率學派 (frequentist)重複無限多次後的長期相對次數擲 10,000 次硬幣,正面約 50%
主觀 / 貝氏 (subjective / Bayesian)根據現有證據的信念程度「明天 70% 會下雨」

多數傳統統計使用頻率學派詮釋;兩者比較見 貝氏 vs 頻率學派。

基本名詞與規則 ​

名詞定義例子(擲骰)
樣本空間 (sample space, S)所有可能結果
事件 (event, E)樣本空間的子集合偶數
餘事件 (complement, Eᶜ)不在 E 中的結果
聯集 (union, A ∪ B)A 或 B 至少一個發生偶數或 > 4
交集 (intersection, A ∩ B)A 且 B 都發生偶數且 > 4
聯集交集餘事件互斥
UnionIntersectionComplementMutually exclusive
規則公式特例
範圍0≤P(E)≤1,P(S)=1—
餘事件法則 (complement rule)P(Ec)=1−P(E)「至少一次」通常用 1 − P(一次都沒有) 算
加法法則 (addition rule)P(A∪B)=P(A)+P(B)−P(A∩B)互斥時 P(A∩B)=0
乘法法則 (multiplication rule)P(A∩B)=P(A)P(B∣A)獨立時 P(A∩B)=P(A)P(B)

條件機率 (Conditional Probability) ​

P(A∣B)=P(A∩B)P(B)

直覺:已知 B 發生,就把樣本空間「縮小」到 B,再看 A 在其中佔多少。

獨立 vs 互斥 ​

概念定義意義
獨立 (independent)P(A∣B)=P(A)B 不提供 A 的任何資訊,可以同時發生
互斥 (mutually exclusive)P(A∩B)=0不能同時發生

兩個機率都 > 0 的互斥事件一定不獨立:知道 B 發生,就知道 A 沒發生。

全機率定律 (Law of Total Probability) ​

若 B₁…Bₙ 互斥且涵蓋整個樣本空間:

P(A)=∑iP(A∣Bi)P(Bi)

例:機台 1 產出 60%、不良率 2%;機台 2 產出 40%、不良率 5% → P(不良)=0.6(0.02)+0.4(0.05)=0.032。

貝氏定理 (Bayes' Theorem) ​

P(A∣B)=P(B∣A)P(A)P(B)
項名稱意義
P(A)先驗 (prior)看到證據前的信念
P(B∣A)概似 (likelihood)若 A 為真,看到 B 的機率
P(B)證據 (evidence)看到 B 的總機率(用全機率定律算)
P(A∣B)後驗 (posterior)看到 B 之後更新的信念

經典例子:篩檢陽性

盛行率 1%、敏感度 (sensitivity) 95%、偽陽性率 (false positive rate) 5%。驗出陽性,真的有病的機率?

python
prior = 0.01          # 盛行率 P(D)
sens  = 0.95          # P(+ | D)
fpr   = 0.05          # P(+ | 非 D)

p_pos = sens * prior + fpr * (1 - prior)   # 全機率定律
ppv   = sens * prior / p_pos               # 貝氏定理
print(f"P(D | +) = {ppv:.3f}")             # ≈ 0.161

基礎率 (base rate) 很重要:檢驗再準,疾病罕見時,陽性者大多仍是偽陽性。

用模擬驗證公式 ​

公式複雜時,可以用重複隨機抽樣近似機率,再跟公式比對。

python
import numpy as np

rng = np.random.default_rng(42)
flips = rng.integers(0, 2, size=(200_000, 3))     # 擲 3 次硬幣,重複 20 萬回
(flips.sum(axis=1) >= 1).mean()                   # ≈ 0.875 = 1 − (1/2)^3

這就是 蒙地卡羅模擬 的基本概念。