SLAM数学基础（三）：概率论基础概念及相关公式

0 写在前面

这不是一个深入浅出的入门讲解。

实在是因为本人苦于各种公式概念傻傻分不清楚，看了一遍一遍又边看边忘，想要时不时捋一捋。

1 条件概率与独立性

条件概率：设有两个事件 $A, B$, 而 $P(B)\neq{} 0$. 则“在给定 $B$ 发生的情况下 $A$ 发生的条件概率”，记为 $P(A\vert{}B)$，定义为

独立：两个事件 $A, B$ 若满足 $P(AB) = P(A)P(B)$，则称 $A, B$ 独立。

概率乘法定理： 若干个独立事件之积的概率，等于各事件的概率之乘积，即：

全概率公式：

贝叶斯公式：在全概率公式的假定下，有：

2 概率分布

2.1 离散型随机变量

需要区分概率分布与分布函数。

概率函数：

概率函数（离散型） 设 X 为离散型随机变量，其全部可能值为{a1 , a2 , ···}，则其概率函数为：

上式称为随机变量 X 的概率分布。

概率分布，其实严格意义来说，应该叫做”离散型随机变量的值分布和概率分布“，强调分布。

概率分布函数：

伯努利分布（Bernoulli）：

伯努利分布是关于布尔变量 $x\in {0,1}$ 的概率分布，其连续参数 $p \in [0,1]$ 表示变量 $x=1$ 的概率。

直观理解就是扔一次硬币，要不正面要不背面，如果是标准的硬币 p=0.5 。

$$
P(x\vert{}p)=p^x(1−p)^{1−x}\\
E(x)=p, var(x)=p(1−p)
$$

二项分布（Binomial）：

二项分布就是重复 n 次独立的伯努利试验。

若随机变量 X 的可能取值为0, 1, ···, n，且概率分布为

则称 X 服从二项分布，记为

延展：泊松分布、超几何分布、负二项分布

2.2 连续型随机变量

概率密度函数与分布函数:

记分布函数为$F(x)$，记概率密度函数为$f(x)$，则有：

并且连续型概率密度函数有以下性质：

（1）

（2）

（3）对于任何常数 a < b，有：

正态分布：

正态随机变量 X ，记为

概率密度函数为：

标准正态分布：

标准正态随机变量 X ，

概率密度函数为：

延展：指数分布、均匀分布

3 多维随机变量

3.1 多维随机变量

n 维随机变量：

多维随机变量也即随机向量。

一般地，设 $X = (X_1, X_2, ··· , X_n)$ 为一个n 维向量，其每个分量都是一维随机变量。

【离散型】：

以 ${a_{i1},a_{i2},}$记 $X_i$ 的全部可能值 $(i=1,2,…)$ ，则事件 ${X_1=a_{1j_1},\ …\ ,X_n=a_{1nj_n},}$ 的概率

称为随机向量 $X = (X_1, X_2, ··· , X_n)$ 的概率函数或概率分布。

概率函数满足的条件：

（1）

（2）

【连续型】：（？？）

若$f(x_1,…,x_n)$ 是定义在 $\mathbb{R}^n$ 上的非负函数，使对 $\mathbb{R}^n$ 中的任意集合 $A$, 有

则称 $f$ 是 $X$ 的概率密度函数。

边缘分布和边缘概率密度：

边缘分布其实就是多维随机变量中的其中一维随机变量的分布函数。

对于连续型而言，边缘分布如下
$$
F_X(x)=F(x,∞)=∫^x_{−∞}[∫^∞_{−∞}f(x,y)dy]dx
$$
有了边缘分布函数，自然有边缘概率密度函数，根据定义及上面的式子有
$$
f_X(x)=∫^∞_{−∞}f(x,y)dy
$$
y的情况也相同。

事实上，我们根据二维正态分布的概率密度，求出其边缘概率密度，发现边缘概率密度正是一维正态分布的的概率密度。

有关注意事项：
(1) 定义一维或者多维连续型随机变量时，实质都在于有概率密度函数存在。（有密度函数的随机变量）
(2) 连续型随机变量不能简单定义为“其各分量都是一维连续型随机变量的那种随机向量”。

3.2 二维正态分布

概率密度函数：

其中：

记为：

4 SLAM数学基础*系列笔记

• SLAM数学基础（一）：向量与矩阵

• SLAM数学基础（二）：坐标转换

• SLAM数学基础（三）：概率论基础概念及相关公式

• SLAM数学基础（四）：理解极大似然估计

• SLAM数学基础（五）：理解最大后验概率估计

• SLAM数学基础（六）：最小二乘法

---END---

---

---

USTC-Course: 中国科学技术大学课程资源

齐民友主编《概率论与数理统计》