主观bayes推理

主观贝叶斯方法的概率论基础

全概率公式

设事件A1,A2,·····,An满足:

1.任意两个事件互不相容。即两个事件相交的概率为0;

2.任意一个事件的概率都大于0;

3.A1,A2,·····,An构成一个完备事件组

python主观 贝叶斯 贝叶斯主观概率_先验概率

 

贝叶斯公式

设事件A1,A2,....,An满足前面的规则,则对任何事件B有下列的公式成立:

p(Ai|B)=P(Ai)XP(B|Ai)/P(B),P(B)和上面的式子相同。p(Ai)是事件Ai的先验概率,p(Ai|B)是事件Ai在事件B发生的条件下的概率。

上式将分母移到左边,得:p(ai|b)Xp(b)=p(ai)Xp(b|ai)

总结得到:贝叶斯公式其实是用原概率求逆概率的一种方式。

主观贝叶斯推理模型

1.知识的不确定性表示

知识的表示形式:主观贝叶斯方法中的知识是用产生式表示的,表示形式为:IF E  THE (LS,LN) H。用(LS,LN)来表示知识的知识强度。

 LS=P(E|H)/P(E|-H),   LN=P(-E|H)/P(-E|-H)=(1-P(E|H))/(1-P(E|-H))。LS ,LN的表示范围为【0,+无穷】

 

从这两个公式可以看出,当e为真,利用ls将h的先验几率变为后验几率。当e为假时,利用ln将h的先验几率变为后验几率o(h|-e)。

ls的性质:

ls大于1,则o(h|e)>o(h) 说明e支持h;ls越大,则e对h越支持。当ls趋于正无穷时,后验几率趋于正无穷,则由于e的存在,将导致h为真。

ls反应的是e的出现对h为真的影响程度,因此ls为充分性度量。

ln的性质:

当ln大于1的时候,则-e对h是支持的,值越大,则-e越支持h,当ln=1时,则-e的出现对h为真没有影响。

ln小于1,则p(h|-e)<p(h),则-e不支持h,则-e反对h为真。所以需要e的出现。

2.证据的不确定性表示

(1)基本证据(前提)的表示

在主观贝叶斯中,证据的不确定性是用其概率和几率来表示的。概率和几率的关系为

O(X)=P(X)/1-P(X)=P(X)/P(-X)

python主观 贝叶斯 贝叶斯主观概率_python主观 贝叶斯_02

 

虽然这个公式只给出了证据的先验概率与先验几率的关系,但是有时候除了考虑证据的先验概率和先验几率以外还要考虑后验概率和后验几率。

 组合证据不确定性的计算

当组合证据为多个单一证据的合取时

如果已知在某个观察s下,每个单一证据e有概率p(e|s),则有

p(e|s)=min(p(e1|s),p(e2|s),.....p(en|s))

当组合证据为多个单一证据的析取时

如果已知在某个观察s下,每个单一证据e有概率p(e|s),则有

p(e|s)=max(p(e1|s),p(e2|s),.....p(en|s))

3.不确定性更新

主观贝叶斯的推理任务是,根据证据e的先验概率p(e)以及ls和ln的值,将先验概率更新为当前观察下的后验概率p(h|s)或后验几率o(h|s)

1.当证据在此观察下一定为真时,p(e|s)=p(e)=1,将h的先验几率更新为后验几率,即

o(h|e)=lsXo(h) o(h)=p(h)/p(-h)

如果将先验概率变为后验概率,即:

p(h|e)=lsxp(h)/((ls-1)p(h)+1)) ;

2.证据在当前观察下肯定为假,p(e|s)=p(e)=0,p(-e)=1.将h的先验几率化为后验几率,则o(h|-e)=lnxo(h)

如果将结果化为后验概率,则:

p(h|-e)=lnxp(h)/((ln-1)p(h)+1)) ;

3.当证据在当前观察下可能为真,可能为假时

p(h|s)=p(h|e)p(e|s)+p(h|-e)p(-e|s)(记公式:e同号)

python主观 贝叶斯 贝叶斯主观概率_后验概率_03

 

 

python主观 贝叶斯 贝叶斯主观概率_python主观 贝叶斯_04

 

 

python主观 贝叶斯 贝叶斯主观概率_贝叶斯方法_05

 

 

python主观 贝叶斯 贝叶斯主观概率_先验概率_06