条件独立

本页使用了标题或全文手工转换
维基百科,自由的百科全书

概率论统计学中,两事件RB 在给定的另一事件Y 发生时条件独立,类似于统计独立性,就是指当事件Y 发生时,R 发生与否和B 发生与否就条件概率分布而言是独立的。换句话讲,RB 在给定Y 发生时条件独立,当且仅当已知Y 发生时,知道R 发生与否无助于知道B 发生与否,同样知道B 发生与否也无助于知道R 发生与否。

定义[编辑]

两个说明条件独立的例子。每个小方格都表示一种等概率的可能结果。事件RBY分别用红色、蓝色、黄色阴影部分表示。事件RB的重叠部分用紫色表示。这些事件发生的概率等于相应阴影部分面积和图形总面积的比值。在这两个例子中,事件RB在给定Y时都是条件独立的,这是因为 [注 1]
但给定Y不发生时,它们不是条件独立的,这是因为 :

RB在给定Y发生时条件独立,用概率论的标准记号表示为

也可以等价地表示为

因为当事件Y发生时,R发生与否和B发生与否就条件概率分布而言是独立的。

两个随机变量XY在给定第三个随机变量Z的情况下条件独立当且仅当它们在给定Z时的条件概率分布互相独立,也就是说,给定Z的任一值,X的概率分布和Y的值无关,Y的概率分布也和X的值无关。

法则[编辑]

从基本定义可导出一套描述条件独立的重要法则。[1][2]

因这些推论在任何概率空间中都成立,因此也对所有变量关于另一变量的条件概率分布成立,只需考虑相应子空间即可。譬如说也就意味着

注:位于算式下方的逗号意为“和”。

对称性[编辑]

分解[编辑]

证明:

  •      (的定义)
  •      (对B积分以消去B)
  •     

同理可证XB条件独立。

微弱的联合[编辑]

证明:

  • 借由定义
  • 由于分解的属性,
  • 结合两个等式得,其中确认 第二个条件可以类似地被证明。

注释[编辑]

  1. ^ 这个等式证明如下:Pr(RB | Y)是RBY中的重合部分(用紫色表示)面积占Y面积的比值。左图中,有两个RB重合的方格位于Y内,而Y有12个方格,所以Pr(RB | Y) = 2/12 = 1/6。同理,Pr(R | Y) = 4/12 = 1/3,Pr(B | Y) = 6/12 = 1/2

参考资料[编辑]

  1. ^ Dawid, A. P. Conditional Independence in Statistical Theory. Journal of the Royal Statistical Society, Series B. 1979, 41 (1): 1–31. JSTOR 2984718. MR 0535541. 
  2. ^ J Pearl, Causality: Models, Reasoning, and Inference, 2000, Cambridge University Press

参见[编辑]