概率论

概率论，是研究随机现象数量规律的数学分支。随机现象是相对于决定性现象而言的，在一定条件下必然发生某一结果的现象称为决定性现象。

事件的概率是衡量该事件发生的可能性的量度。虽然在一次随机试验中某个事件的发生是带有偶然性的，但那些可在相同条件下大量重复的随机试验却往往呈现出明显的数量规律。

由于本文章会多次运用到matplotlib库的知识，如有需要请移步前往matplotlib库巩固知识点。

1.1 离散随机变量分布

1）伯努利分布

伯努利分布又称为两点分布或0-1分布，指的是对于随机变量X有, 参数为p(0<p<1)，如果它分别以概率p和1-p取1和0为值。EX= p,DX=p(1-p)。伯努利试验成功的次数服从伯努利分布,参数p是试验成功的概率。

伯努利分布的概率用python代码绘制如下：

import numpy as np
from scipy import stats
import matplotlib.pyplot as pltdef bernoulli_pmf(p=0.0):ber_dist =stats.bernoulli(p)x = [0, 1]x_name = ['0', '1']pmf = [ber_dist.pmf(x[0]),ber_dist.pmf(x[1])]plt.bar(x, pmf, width = 0.15)plt.xticks(x,x_name)plt.ylabel('Probability')plt.title('Pmf of bernoulli distribution')plt.show()bernoulli_pmf(p=0.3)

运行结果如下：

2）二项分布

如果把一个伯努利分布独立的重复n次，就得到了一个二次分布。二项分布是最重要的离散型概率分布之一。随机变量X要满足这个分布有两个重要条件：

各次试验的条件是稳定的；
各次试验之间是相互独立的；

下面利用python代码模拟抛一枚不均匀的硬币20次，设正面朝上的概率为0.6：

import numpy as np
from scipy import stats
import matplotlib.pyplot as pltdef binom_dis(n=1,p=0.1):binom_dis = stats.binom(n,p)x = np.arange(binom_dis.ppf(0.0001), binom_dis.ppf(0.9999))print(x)fig, ax = plt.subplots(1, 1)ax.vlines(x, binom_dis.pmf(x), 'bo', label='binom pmf')ax.legend(loc='best', frameon = False)plt.ylabel('Probability')plt.title('PMF of binomial distribution(n={},p={})'.format(n,p))plt.show()binom_dis(n=20,p=0.6)

运行结果如下：

3）泊松分布

泊松分布的参数λ是单位时间(或单位面积)内随机事件的平均发生次数。泊松分布适合于描述单位时间内随机事件发生的次数。当二项分布的n很大而p很小时，泊松分布可作为二项分布的近似，其中λ为np。通常当n≧20,p≦0.05时，就可以用泊松公式近似得计算。事实上，泊松分布正是由二项分布推导而来的。

下面是参数μ=8时的泊松分布python实现，在Scipy中将泊松分布的参数表示为μ：

import numpy as np
from scipy import stats
import matplotlib.pyplot as pltdef poisson_pmf(mu=3):poisson_dis= stats.poisson(mu)x = np.arange(poisson_dis.ppf(0.001), poisson_dis.ppf(0.999))print(x)fig, ax = plt.subplots(1, 1)ax.plot(x, poisson_dis.pmf(x), 'bo', ms=8, label = 'poisson pmf')ax.legend(loc = 'best', frameon = False)plt.ylabel('Probability')plt.title('PMF of poisson distribution(mu={})'.format(mu))plt.show()poisson_pmf(mu=8)

1.2 连续随机变量分布

1）均匀分布

均匀分布也叫矩形分布，它是对称概率分布，在相同长度间隔的分布概率是等可能的。均匀分布由两个参数a和b定义，它们是数轴上的最小值和最大值，通常缩写为U（a，b）。

在python中用location和scale分别表示起点和区间长度，代码如下：

import numpy as np
from scipy import stats
import matplotlib.pyplot as pltdef uniform_distribution(loc=0,scale=1):uniform_dis = stats.uniform(loc=loc,scale=scale)x = np.linspace(uniform_dis.ppf(0.01), uniform_dis.ppf(0.99), 100)fig, ax = plt.subplots(1, 1)#直接传入参数ax.plot(x, stats.uniform.pdf(x, loc=2, scale=4), 'r-', lw=5, alpha=0.6, label='uniform pdf')#从冻结的均匀分布取值ax.plot(x, uniform_dis.pdf(x), 'k-', lw=2, label='frozen pdf')#计算ppf分别等于0.001，0.5，0.999时的x值vals = uniform_dis.ppf([0.001, 0.5, 0.999])print(vals)#[2.004 4.    5.996]#检测cdf和ppf的精确度print(np.allclose([0.001, 0.5, 0.999], uniform_dis.cdf(vals)))#结果为Truer = uniform_dis.rvs(size=10000)ax.hist(r, density=True, histtype='stepfilled', alpha=0.2)plt.ylabel('Probability')plt.title(r'PDF of Unit({}, {})'.format(loc, loc+scale))ax.legend(loc= 'best', frameon = False)plt.show()uniform_distribution(loc=2,scale=4)

运行结果如下：

2）指数分布

指数分布（也称为负指数分布）是描述泊松过程中的事件之间的时间的概率分布，即事件以恒定平均速率连续且独立地发生的过程。这表示如果一个随机变量呈指数分布，当s,t>0时有P(T>t+s|T>t)=P(T>s)。即，假如你在排队接受服务的时间长短服从指数分布，那么无论你已经排了多久的队，在排t分钟的概率始终是相同的，代码如下：

import numpy as np
from scipy import stats
import matplotlib.pyplot as pltdef exponential_dis(loc=0, scale=1.0):'''指数分布按照定义只有一个参数lambda，这里的scale = 1/lambdaparam loc：定义域的左端点，相当于将整体分布沿x轴平移locparam scale：lambda的倒数，loc+scale表示改分布的均值，scale^2表示该分布的方差'''exp_dis = stats.expon(loc=loc, scale=scale)x = np.linspace(exp_dis.ppf(0.000001), exp_dis.ppf(0.999999), 100)fig, ax = plt.subplots(1, 1)#直接传入参数ax.plot(x, stats.expon.pdf(x, loc=loc, scale=scale), 'r-', lw=5, alpha=0.6, label='uniform pdf')#从冻结的均匀分布取值ax.plot(x, exp_dis.pdf(x), 'k-', lw=2, label='frozen pdf')#计算ppf分别等于0.001，0.5，0.999时的x值vals = exp_dis.ppf([0.001, 0.5, 0.999])print(vals)#[2.004 4.    5.996]#检测cdf和ppf的精确度print(np.allclose([0.001, 0.5, 0.999], exp_dis.cdf(vals)))r = exp_dis.rvs(size=10000)ax.hist(r, density=True, histtype='stepfilled', alpha=0.2)plt.ylabel('Probability')plt.title(r'PDF of Exp(0.5)')ax.legend(loc= 'best', frameon = False)plt.show()exponential_dis(loc=0, scale=2)

运行结果如下：

3）正态分布

正态曲线呈钟型，两头低，中间高，左右对称因其曲线呈钟形，因此人们又经常称之为钟形曲线。

若随机变量X服从一个数学期望为μ、方差为σ2的正态分布，记为N(μ，σ2)。其概率密度函数为正态分布的期望值μ决定了其位置，其标准差σ决定了分布的幅度。当μ = 0,σ = 1时的正态分布是标准正态分布。

import numpy as np
import matplotlib.pyplot as plt
import mathu = 0
#均值μ
u01 = -2
sig = math.sqrt(0.2)
#标准差x = np.linspace(u-3*sig, u+3*sig, 50)
y_sig = np.exp(-(x-u)**2/(2*sig**2))/(math.sqrt(2*math.pi)*sig)
print(x)
print('='*20)
print(y_sig)
plt.plot(x, y_sig, 'r-', linewidth=2)
plt.grid(True)
plt.show()