概率论 —— 泊松分布和指数分布

• 参考：​​泊松分布是怎么来的？应该怎么用？​​

---

文章目录

• ​​1. 泊松分布​​

• ​​1.1 定义和性质​​
• ​​1.2 理解泊松分布​​

• ​​1.2.1 从二项分布角度理解​​
• ​​1.2.2 直观理解​​

• ​​1.3 分布律曲线​​

• ​​2. 指数分布​​

1. 泊松分布

1.1 定义和性质

• ​​泊松分布​​：设非负的离散随机变量 $X$ 取值为 0,1,2,… 分布律为
  $P(X=k) = \frac{\lambda^k}{k!}e^{-\lambda},\quad k=0,1,2..., \quad \lambda>0$ 则称 $X$ 服从参数为 $\lambda$ 的泊松分布，记做 $X\sim P(\lambda)$
• 服从参数为 $\lambda$ 的泊松分布的随机变量 $X\sim P(\lambda)$ 的期望和方差为
  $E(X) = \lambda\\ D(X) = \lambda$

1. 期望证明如下
   $\begin{aligned} E(X) &= \sum_{k=0}^\infin k \frac{\lambda^k}{k!}e^{-\lambda} \\ &= \sum_{k=1}^\infin k \frac{\lambda^k}{k!}e^{-\lambda}\\ &= \sum_{k=1}^\infin \frac{\lambda^k}{(k-1)!}e^{-\lambda}\\ &= \lambda e^{-\lambda} \sum_{k=1}^\infin \frac{\lambda^{k-1}}{(k-1)!}\\ &= \lambda e^{-\lambda}e^\lambda \\ &=\lambda \end{aligned}$ 其中倒数第三个等号用到泰勒展开 $e^x=1+x+\frac{x^2}{2 !}+\frac{x^3}{3 !}+\ldots+\frac{x^n}{n !}+\ldots=\sum_{k=1}^{\infty} \frac{x^{k-1}}{(k-1) !}$
2. 方差证明如下
   $\begin{aligned} E(X^2) &= \sum_{k=0}^\infin k^2 \frac{\lambda^k}{k!}e^{-\lambda} \\ &= \lambda e^{-\lambda} \sum_{k=1}^\infin \frac{k\lambda^{k-1}}{(k-1)!} \\ &= \lambda e^{-\lambda} \sum_{k=1}^\infin \frac{(k-1+1)\lambda^{k-1}}{(k-1)!} \\ &= \lambda e^{-\lambda}\left(\sum_{m=0}^{\infty} \frac{m \cdot \lambda^m}{m !}+\sum_{m=0}^{\infty} \frac{\lambda^m}{m !}\right)\quad (令 m=k-1) \\ &= \lambda e^{-\lambda}\left(\lambda\sum_{m=1}^{\infty} \frac{\lambda^{m-1}}{(m-1) !}+\sum_{m=0}^{\infty} \frac{\lambda^m}{m !}\right) \\ &= \lambda e^{-\lambda} \left(\lambda e^{\lambda}+e^{\lambda}\right) \\ &= \lambda^2+\lambda \\ \space\\ D(X) &= E(X^2)-E(X)^2 \\ &= \lambda^2+\lambda -\lambda^2 \\ &=\lambda\ \end{aligned}$

1.2 理解泊松分布

1.2.1 从二项分布角度理解

• 泊松分布可以理解为极限情况下的二项分布。伯努利实验中一个事件有 $p$ 的概率发生，$1-p$ 的概率不发生（例如抛硬币），二项分布就是独立重复 $n$ 次伯努利试验后事件发生次数的概率分布，其分布律为
  $P(X=k) = C_n^k p^k(1-p)^k$ 考虑 $n\to \infin, \space p\to 0$ 的极端情况，并且要求二项分布期望 $np=\lambda$ 是一个常数（这意味着 $n$ 无穷大的程度 $p$，把 $p=\frac{\lambda}{n}$ 带回到上述分布律并取 $\lim_{n\to\infin}$，得到
  $\begin{aligned} P(X=k) &= \lim_{n\to\infin} \frac{n!}{k!(n-k)!} \frac{\lambda^k}{n^k}(1-\frac{\lambda}{n})^{n-k} \\ &= \lim_{n\to\infin} \frac{n(n-1)(n-2)...(n-k+1)}{k!}\frac{\lambda^k}{n^k}(1-\frac{\lambda}{n})^{n-k} \\ &= \lim_{n\to\infin} \frac{n(n-1)(n-2)...(n-k+1)}{n^k}\frac{\lambda^k}{k!}(1-\frac{\lambda}{n})^{n-k}\\ &= \lim_{n\to\infin}\frac{\lambda^k}{k!}(1-\frac{\lambda}{n})^{n-k}\\ &= \frac{\lambda^k}{k!}\lim_{n\to\infin}(1-\frac{\lambda}{n})^n(1-\frac{\lambda}{n})^{-k} \\ &= \frac{\lambda^k}{k!}\lim_{n\to\infin}(1-\frac{\lambda}{n})^n \\ &= \frac{\lambda^k}{k!}\lim_{n\to\infin} \Big[(1+\frac{1}{-\frac{n}{\lambda}})^{-\frac{n}{\lambda}}\Big]^{-\lambda} \\ &= \frac{\lambda^k}{k!}e^{-\lambda} \\ \end{aligned}$ 这样就推出了泊松分布的分布律

注意上面最后一个等号使用了重要极限 $\lim_{x\to \infin}(1+\frac{1}{x})^x = e$

1.2.2 直观理解

• 直观上看，泊松分布描述指定时间长度时间内某事件发生次数的分布。举例来说，现在我们观察到 $a$ 分钟内停车场进入了 $b$

1. 把这 $a$ 分钟均匀分成长 $\frac{a}{n}$ 分钟的 $n$ 段，每一段时间都成为一个来车概率为 $p$
2. $n\to \infin$ 时每个时间段长度 $\frac{a}{n}\to 0$，于是每段内来车概率 $p\to 0$
3. 根据观测结果，我们知道这 $n$ 次伯努利实验满足 $np=b$

于是，“$a$ 分钟内停车场进入了 $b$ 辆车” 这个观测，意味着 “停车场 $a$ 分钟内来车次数” 服从参数为 $\lambda=b$
$P(X=k) = \frac{3^k}{k!}e^{-3}$

• 上面是从一次单独的观测中导出泊松分布，只能考察固定时间长度内事件发生次数的分布规律；如果我们宏观上知道事件发生的频率，则能同时考察任意时间长度内事件发生次数的分布规律，这相当于大量宏观观测导出大量泊松分布的平均。设停车场来车的频率为 $m$，长度为 $t$ 的时间内来车数量的期望就是 $mt$，这时泊松分布也可以表示为
  $P(N(t)=k) = \frac{(mt)^k}{k!}e^{-mt}$ 这里 $N(t)$

1. 某停车场平均每分钟来车数量
2. 某医院平均每小时出生婴儿数量
3. 某公司平均每10分钟接到电话数量

1.3 分布律曲线

• 如下绘制泊松分布曲线

from scipy import stats
import numpy as np
import matplotlib.pyplot as plt

poisson1 = stats.poisson.pmf(np.arange(50), 1)
poisson2 = stats.poisson.pmf(np.arange(50), 2)
poisson5 = stats.poisson.pmf(np.arange(50), 5)
poisson10 = stats.poisson.pmf(np.arange(50), 10)
poisson25 = stats.poisson.pmf(np.arange(50), 25)
poisson40 = stats.poisson.pmf(np.arange(50), 40)


x = np.arange(50)
plt.plot(x, poisson1, label="λ=1")
plt.plot(x, poisson2, label="λ=2")
plt.plot(x, poisson5, label="λ=5")
plt.plot(x, poisson10, label="λ=10")
plt.plot(x, poisson25, label="λ=25")
plt.plot(x, poisson40, label="λ=40")

plt.legend()

• 可见泊松分布是非对称的，$\lambda$ 值越小越偏倚，随着 $\lambda$。

1. $\lambda$ 越小，意味着事件发生次数的期望越小（从二项分布角度考虑），考虑极限情况事件几乎不可能发生，那么事件多次发生就更加不可能，概率全部分配到发生次数 $k$
2. $\lambda$

2. 指数分布

• 指数分布是事件发生间隔的概率分布，下面这些都属于指数分布：

1. 某停车场来车的时间间隔
2. 某医院出生婴儿的时间间隔
3. 某公司接到电话数量的时间间隔

• 指数分布的公式可以从泊松分布推断出来：下一次事件发生间隔时间 $t$ 等价于 $t$ 时间内事件一次也没发生，于是
  $P(X>t) = P(N(t)=0) = \frac{(mt)^0}{0!}e^{-mt} = e^{-\lambda t}$ 指数分布的图像通常如下