在概率論和統計學中,兩事件R 和B 在給定的另一事件Y 發生時條件獨立,類似於統計獨立性,就是指當事件Y 發生時,R 發生與否和B 發生與否就條件概率分布而言是獨立的。換句話講,R 和B 在給定Y 發生時條件獨立,當且僅當已知Y 發生時,知道R 發生與否無助於知道B 發生與否,同樣知道B 發生與否也無助於知道R 發生與否。
定義
兩個說明條件獨立的例子。每個小方格都表示一種等概率的可能結果。事件R、B、Y分別用紅色、藍色、黃色陰影部分表示。事件R和B的重疊部分用紫色表示。這些事件發生的概率等於相應陰影部分面積和圖形總面積的比值。在這兩個例子中,事件R和B在給定Y時都是條件獨立的,這是因為
[註 1]
但給定Y不發生時,它們不是條件獨立的,這是因為 :
R和B在給定Y發生時條件獨立,用概率論的標準記號表示為
![{\displaystyle \Pr(R\cap B\mid Y)=\Pr(R\mid Y)\Pr(B\mid Y)\,}](https://wikimedia.org/api/rest_v1/media/math/render/svg/fa48f926b4605f162bbf49edabb3300b2c2f78d3)
也可以等價地表示為
![{\displaystyle \Pr(R\mid B\cap Y)=\Pr(R\mid Y).\,}](https://wikimedia.org/api/rest_v1/media/math/render/svg/82fe5e0102beb65ab5347171166afa9f829e12b3)
因為當事件Y發生時,R發生與否和B發生與否就條件概率分布而言是獨立的。
兩個隨機變量X和Y在給定第三個隨機變量Z的情況下條件獨立當且僅當它們在給定Z時的條件概率分布互相獨立,也就是說,給定Z的任一值,X的概率分布和Y的值無關,Y的概率分布也和X的值無關。
法則
從基本定義可導出一套描述條件獨立的重要法則。[1][2]
因這些推論在任何機率空間中都成立,因此也對所有變量關於另一變量的條件概率分布成立,只需考慮相應子空間即可。譬如說
也就意味着
。
註:位於算式下方的逗號意為「和」。
對稱性
![{\displaystyle X\perp \!\!\!\perp Y\quad \Rightarrow \quad Y\perp \!\!\!\perp X}](https://wikimedia.org/api/rest_v1/media/math/render/svg/16770503db6869dd13bc0dda55f656eb7e2a0230)
分解
![{\displaystyle X\perp \!\!\!\perp A,B\quad \Rightarrow \quad {\text{ and }}{\begin{cases}X\perp \!\!\!\perp A\\X\perp \!\!\!\perp B\end{cases}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/6515da8c549809097480614423f22aac2f34ca80)
證明:
(
的定義)
(對B積分以消去B)
同理可證X和B條件獨立。
微弱的聯合
![{\displaystyle X\perp \!\!\!\perp A,B\quad \Rightarrow \quad {\text{ and }}{\begin{cases}X\perp \!\!\!\perp A\mid B\\X\perp \!\!\!\perp B\mid A\end{cases}}}](https://wikimedia.org/api/rest_v1/media/math/render/svg/ac663557fb0f69671e6a5d3a54f549fbb28c307b)
證明:
- 藉由定義
![{\displaystyle \Pr(X)=\Pr(X\mid A,B)}](https://wikimedia.org/api/rest_v1/media/math/render/svg/ea6fce3dac9f77542b4aec787bd7438f8475afba)
- 由於分解的屬性
, ![{\displaystyle \Pr(X)=\Pr(X\mid B)}](https://wikimedia.org/api/rest_v1/media/math/render/svg/74ad82cdf65f7163c038859d19d758b2b0849349)
- 結合兩個等式得
,其中確認
第二個條件可以類似地被證明。
註釋
- ^ 這個等式證明如下:Pr(R ∩ B | Y)是R和B在Y中的重合部分(用紫色表示)面積占Y面積的比值。左圖中,有兩個R和B重合的方格位於Y內,而Y有12個方格,所以Pr(R ∩ B | Y) = 2/12 = 1/6。同理,Pr(R | Y) = 4/12 = 1/3,Pr(B | Y) = 6/12 = 1/2。
參考資料
參見