机器学习课程-温州大学-概率论回顾

• 语言: 中文（简体）
• 格式: .pdf
• 来源: github.com/fengdu78

摘要

文档回顾了概率论的基本概念和公式，包括随机事件的定义、概率的基本性质、随机变量及其概率分布、条件概率、全概率公式、独立事件、贝叶斯公式、乘法公式以及独立重复试验的概率计算。这些内容涵盖了概率论的核心知识点，对机器学习领域具有重要的理论支撑。

AI总结

### 《机器学习课程-温州大学-概率论回顾》总结

本文是对机器学习课程中概率论的回顾，内容涵盖了概率论的基本概念、随机变量及其分布、多维随机变量、数字特征及数理统计的基本概念。以下是核心内容的总结：

---

#### 1. 随机事件和概率
- **概率的基本概念**：
- 概率是事件发生的可能性大小的度量，需满足非负性、归一性和可数加性三大条件。
- 完全事件组：两两互斥且并集为必然事件。
- 几何概率：样本空间为欧氏空间，概率等于区域度量之比。

- **概率公式**：
- 条件概率：$P(B|A) = \frac{P(AB)}{P(A)}$。
- 全概率公式：$P(A) = \sum_{i=1}^{n} P(A|B_i)P(B_i)$。
- 贝叶斯公式：$P(B_j|A) = \frac{P(A|B_j)P(B_j)}{\sum_{i=1}^{n}P(A|B_i)P(B_i)}$。
- 乘法公式：$P(A_1A_2) = P(A_1)P(A_2|A_1)$。
- 独立性判断：若$P(AB) = P(A)P(B)$，则A和B独立。

- **独立重复试验**：
- 二项分布公式：$P(X=k) = C(n,k)p^k(1-p)^{n-k}$。

- **重要公式**：
- 补集概率：$P(\overline{A}) = 1 - P(A)$。
- 并集概率：$P(A \cup B) = P(A) + P(B) - P(AB)$。
- 差集概率：$P(A - B) = P(A) - P(AB)$。

---

#### 2. 随机变量及其概率分布
- **随机变量**：
- 定义：定义在样本空间上的实数函数。
- 概率分布：包括分布函数或分布律。

- **分布函数**：
- 定义：$F(x) = P(X \leq x)$。
- 性质：非负、单调不减、右连续、极限在两端为0和1。

- **概率分布类型**：
- 离散型：概率质量函数。
- 连续型：概率密度函数。

---

#### 3. 多维随机变量及其分布
- 联合分布与边缘分布：
- 联合分布描述多个随机变量的概率关系。
- 边缘分布为单个变量的分布。

---

#### 4. 随机变量的数字特征
- 期望、方差、标准差：
- 期望（均值）：$E(X) = \sum x_i P(X=x_i)$。
- 方差：$Var(X) = E[(X - E(X))^2]$。
- 标准差：$\sigma = \sqrt{Var(X)}$。
- 相关系数：
- 衡量两个变量线性相关程度。

---

#### 5. 数理统计的基本概念
- 统计量、参数估计、假设检验：
- 统计量：样本的函数，用于估计总体参数。
- 参数估计：点估计和区间估计。
- 假设检验：检验总体参数的假设是否成立。

---

### 总结
本文回顾了概率论的核心内容，包括概率的基本概念与公式、随机变量及其分布、多维随机变量、数字特征及数理统计的基本概念，内容涵盖了机器学习中概率论的基础知识，为后续学习提供了理论支持。