先验、后验、似然、置信的理解

  • 1. 贝叶斯公式
  • 2. 举例
  • 2.1. 下雨和乌云
  • 2.2. 机器人定位


1. 贝叶斯公式

机器学习里面的先验和后验_最大似然估计


公式中：

  • 后验概率（posterior）
    所求的是事件 A 发生条件下事件 Bi 的概率为P(Bi│A)：
    试验产生了结果A之后，再对结果发生的原因概率的新认识
  • 先验概率（prior）
    原因事件 Bi 的概率为P(Bi)，结果发生原因的可能性大小
  • 似然（likelyhood）
    事件 Bi 已发生条件下事件 A 的概率为P(A│Bi)：
    即已经有了原因 Bi ，反推对事件结果 A 发生的可能性描述
  • 置信（evidence）
    事件 A 的概率为P(A)，试验产生结果A的概率

2. 举例

2.1. 下雨和乌云

比如根据下雨（A：结果）判断有出现乌云（B：原因）的概率这件事来说：

后验：根据（当前）下雨（A：结果），推算天上有乌云（B：原因）的概率

先验：根据（历史）若干年的统计（经验）或者气候（常识），此时此景有乌云（B：原因）的概率

似然：有乌云（B：原因）的时候会下雨（A：结果）的概率

置信：此时此景下雨（A：结果）的概率

现在已经下雨，置信 = 1 ，后验 = 先验 x 似然 ：
存在乌云的可能（先验）的概率，乌云会有下雨（似然）的概率
就可通过现在下雨推断有乌云（后验）的概率

2.2. 机器人定位

后验：根据（现在）机器人检测到的环境特征（A：结果），推算机器人位姿分布（B：原因）的概率

先验：根据（经验）里程计估算，此时机器人位姿分布（B：原因）的概率

似然：机器人位姿分布（B：原因）可以检测到当前环境特征（A：结果）的概率

置信：此时机器人检测到的环境特征（A：结果）的可信度

求机器人位姿即求解最大后验概率， 相当于最大化似然和先验的乘积

若不知道机器人位姿大概在什么地方，此时就没有了先验
那么就是求解最大似然估计，似然是指“在现在的位姿下，可能产生怎样的观测数据”

由于知道观测数据，所以最大似然估计可以理解成：“在什么样的状态下，最可能产生现在观测到的数据”
而机器人就是在那种最可能产生现在观测到环境特征的状态

谢谢！