## PyTorch ## 基本运算 主讲人：龙良曲 ## Math operation Add/minus/multiply/divide Matmul - Pow - Sqrt/rsqrt Round ## basic ## matmul • Torch.mm • only for 2d - Torch.matmul @ 1 In [17]: a 2 tensor([[3

# 数学基础笔记（V1.01） # 你不是一个人在战斗！ haiguang2000@qq.com 最后修改：2018-04-19 ## 目录 机器学习的数学基础.....1 高等数学.....1 线性代数.....9 概率论和数理统计.....19 ## 机器学习的数学基础 ## 高等数学 ### 1. 导数定义： 导数和微分的概念 $$ f^{\prime}(x_{0})=\lim_{\Delta x_{0}) $ 法线方程： $ y - y_{0} = -\frac{1}{f'(x_{0})}(x - x_{0}), f'(x_{0}) \neq 0 $ ### 5. 四则运算法则 设函数 $ u=u(x) $ ， $ v=v(x) $ 在点x可导，则： (1) $ (u \pm v)' = u' \pm v' $ $$ (2)\ (uv 复合函数，反函数，隐函数以及参数方程所确定的函数的微分法 (1) 反函数的运算法则：设 $ y = f(x) $ 在点x的某邻域内单调连续，在点x处可导且 $ f'(x) \neq 0 $ 。 0，则其反函数在点x所对应的y处可导，并且有 $ \frac{dy}{dx}=\frac{1}{\frac{dx}{dy}} $ (2）复合函数的运算法则:若 $ \mu=\varphi(x) $ 在点x可导

## 机器学习-高等数学回顾 黄海广 副教授 2021年07月 ## 高等数学 ### 1. 导数定义： 导数和微分的概念 $$ f^{\prime}(x_{0})=\lim_{\Delta x\to0}\frac{f(x_{0}+\Delta x)-f(x_{0})}{\Delta x} $$ 或者： $ f'(x_{0}) = \lim_{x \to x_{0}} \frac{f(x) \frac{f(x) - f(x_{0})}{x - x_{0}} $ ## 高等数学 ### 2. 左右导数导数的几何意义和物理意义 函数 $ f(x) $ 在 $ x_{0} $ 处的左、右导数分别定义为： 左导数： $ f_{-}^{\prime}(x_{0})=\lim_{\Delta x\to0^{-}}\frac{f(x_{0}+\Delta x)-f(x_{0})}{\Delta x\to0^{+}}\frac{f(x_{0}+\Delta x)-f(x_{0})}{\Delta x}=\lim_{x\to x_{0}^{+}}\frac{f(x)-f(x_{0})}{x-x_{0}} $ ## 高等数学 ### 3. 函数的可导性与连续性之间的关系 Th1: 函数 $ f(x) $ 在 $ x_{0} $ 处可微 $ \Leftrightarrow f(x) $ 在 $ x_{0} $ 处可导。

3 多元高斯分布 5. 其他资源 ## 概率论复习和参考 概率论是对不确定性的研究。通过这门课，我们将依靠概率论中的概念来推导机器学习算法。这篇笔记试图涵盖适用于CS229的概率论基础。概率论的数学理论非常复杂，并且涉及到“分析”的一个分支：测度论。在这篇笔记中，我们提供了概率的一些基本处理方法，但是不会涉及到这些更复杂的细节。 ### 1. 概率的基本要素 为了定义集合上的概率，我们需要一些基本元素，

机器学习课程复习材料-线性代数 线性代数复习和参考 1. 基础概念和符号 1.1 基本符号 2. 矩阵乘法 2.1 向量-向量乘法 2.2 矩阵-向量乘法 2.3 矩阵-矩阵乘法 3. 运算和属性 3.1 单位矩阵和对角矩阵 3.2 转置 3.3 对称矩阵 3.4 矩阵的迹 3.5 范数 3.6 线性相关性和秩 3.7 方阵的逆 -a_{2}^{T}-\\ \vdots\\ -a_{m}^{T}-\end{bmatrix} $$ 在许多情况下，将矩阵视为列向量或行向量的集合非常重要且方便。通常，在向量而不是标量上操作在数学上（和概念上）更清晰。只要明确定义了符号，用于矩阵的列或行的表示方式并没有通用约定。 ### 2. 矩阵乘法 两个矩阵相乘，其中 $ A \in R^{m \times n} $ and $ 这里第i行的C由左边的向量的矩阵向量乘积给出： $ c_{i}^{T}=a_{i}^{T}B $ 将矩阵乘法剖析到如此大的程度似乎有点过分，特别是当所有这些观点都紧跟在我们在本节开头给出的初始定义（在一行数学中）之后。 这些不同方法的直接优势在于它们允许您在向量的级别/单位而不是标量上进行操作。为了完全理解线性代数而不会迷失在复杂的索引操作中，关键是要用尽可能多的概念进行操作。 实际上所有的线性代数