，则： $$ C=A B\in\mathbb{R}^{m\times p} $$ 其中： $$ C_{ij}=\sum_{k=1}^{n}A_{ik}B_{kj} $$ 请注意，为了使矩阵乘积存在，A中的列数必须等于B中的行数。有很多方法可以查看矩阵乘法，我们将从检查一些特殊情况开始。 ### 2.1 向量-向量乘法 给定两个向量 $ x,y\inR^{n},x^{T}y $ 通常称为向量内积或者点积，结果是个实数。 cdots&x^{T}a^{n}\end{array}\right] $$ 这表明 $ y^{T} $ 的第i个元素等于x和A的第i列的内积。 最后，根据行表示A，我们得到了向量-矩阵乘积的最终表示： $$ y^{T}=x^{T}A=\left[x_{1}\quad x_{2}\quad\cdots\quad x_{n}\right]\begin{bmatrix}-a_{1}^{T}-\\ 矩阵-矩阵乘法 有了这些知识，我们现在可以看看四种不同的（形式不同，但结果是相同的）矩阵-矩阵乘法：也就是本节开头所定义的C=AB的乘法。 首先，我们可以将矩阵 - 矩阵乘法视为一组向量 - 向量乘积。从定义中可以得出：最明显的观点是 C 的 $ (i, j) $ 元素等于 A 的第 i 行和 B 的第 j 列的内积。如下面的公式所示： $$ C=A B=\begin{bmatrix}-

.. 62 2.4 微积分 ..... 63 2.4.1 导数和微分 ..... 64 2.4.2 偏导数 ..... 68 2.4.3 梯度 ..... 68 2.4.4 链式法则 ..... 68 2.5 自动微分 ..... 69 2.5.1 一个简单的例子 ..... 70 2.5.2 非标量变量的反向传播 ..... 71 2.5.3 分离计算 ... 009年，如果有人设计了一个很棒的算法来预测电影评分，那可能会赢得100万美元的奈飞奖 $ ^{12} $ 。再比如，预测病人在医院的住院时间也是一个回归问题。总而言之，判断回归问题的一个很好的经验法则是，任何有关“有多少”的问题很可能就是回归问题。比如： · 这个手术需要多少小时； ·在未来6小时，这个镇会有多少降雨量。 即使你以前从未使用过机器学习，可能不在不经意间，已经解决了一些回归问 8, 9, 10, 11]) 可以通过张量的shape属性来访问张量（沿每个轴的长度）的形状。 x.shape torch.Size([12]) 如果只想知道张量中元素的总数，即形状的所有元素乘积，可以检查它的大小（size）。因为这里在处理的是一个向量，所以它的shape与它的size相同。 x.numel() 12 要想改变一个张量的形状而不改变元素数量和元素值，可以调用reshape函数。例如，可以把张量x从形状为

x_{0}) $ 法线方程： $ y - y_{0} = -\frac{1}{f'(x_{0})}(x - x_{0}), f'(x_{0}) \neq 0 $ ### 5. 四则运算法则 设函数 $ u=u(x) $ ， $ v=v(x) $ 在点x可导，则： (1) $ (u \pm v)' = u' \pm v' $ $$ (2)\ (uv)^ 复合函数，反函数，隐函数以及参数方程所确定的函数的微分法 (1) 反函数的运算法则：设 $ y = f(x) $ 在点x的某邻域内单调连续，在点x处可导且 $ f'(x) \neq 0 $ 。 0，则其反函数在点x所对应的y处可导，并且有 $ \frac{dy}{dx}=\frac{1}{\frac{dx}{dy}} $ (2）复合函数的运算法则:若 $ \mu=\varphi(x) $ 在点x可导,而 的函数，则 y 的函数是 x 的复合函数。例如 $ \frac{1}{y} $ ， $ y^{2} $ ， $ \ln y $ ， $ e^{y} $ 等均是 x 的复合函数。对 x 求导应按复合函数连锁法则做。 2) 公式法. 由 $ F(x,y)=0 $ 知 $ \frac{dy}{dx}=-\frac{F'_{x}(x,y)}{F'_{y}(x,y)} $ ，其中， $

C=(c_{ij}) $ ，其中 $ c_{ij}=a_{i1}b_{1j}+a_{i2}b_{2j}+\cdots+a_{in}b_{nj}=\sum_{k=1}^{n}a_{ik}b_{kj} $ 称为AB的乘积，记为C=AB。 ### 2. 矩阵 4. $ A^{T} $ 、 $ A^{-1} $ 、 $ A^{*} $ 三者之间的关系 (1) $ (A^{T})^{T}=A,(AB)^{T}=B^{T}A^{T} \Leftrightarrow AB=E;\Leftrightarrow|A|\neq0;\Leftrightarrow r(A)=n; $ \Leftrightarrow A 可以表示为初等矩阵的乘积； \Leftrightarrow A无零特征值; \Leftrightarrow Ax = 0 只有零解。 ### 2. 矩阵 ### 7. 有关矩阵秩的结论 (1) 秩 $ r(A)= $ ### 4. 线性方程组 01 行列式 02 矩阵 03 向量 04 线性方程组 05 矩阵的特征值和特征向量 06 二次型 ### 4. 线性方程组 ### 1. 克莱姆法则 线性方程组 $ \left\{\begin{array}{l}a_{11}x_{1}+a_{12}x_{2}+\cdots+a_{1n}x_{n}=b_{1}\\a_{21}x_{1}+a_{2

+ x^{2}} $ (15) y = shx 则： $ y' = chx $ ，(16) y = chx 则： $ y' = shx $ ## 高等数学-四则运算法则 ## 四 则运算法则 设函数 $ u = u(x) $ ， $ v = v(x) $ 在点x可导，则： (1) $ (u\pm v)^{\prime}=u^{\prime}\pm v^{\prime} $ C=(c_{ij}) $ ，其中 $ c_{ij}=a_{i1}b_{1j}+a_{i2}b_{2j}+\cdots+a_{in}b_{nj}=\sum_{k=1}^{n}a_{ik}b_{kj} $ 称为AB的乘积，记为C=AB。 $$ C0=A0\times B0+A1\times B2 $$ $$ \begin{aligned}C2&=A2\times B0+A3\times B2\\ C3&=A2\times

15. 贪心 ..... 315 15.1. 贪心算法 ..... 315 15.2. 分数背包问题 ..... 319 15.3. 最大容量问题 ..... 322 15.4. 最大切分乘积问题 ..... 328 15.5. 小结 ..... 331 16. 附录 ..... 333 16.1. 编程环境安装 ..... 333 16.2. 一起参与创作 ..... 334 货币找零的步骤本质上是贪心算法，每一步都采取当前看来的最好选择。 算法是在有限时间内解决特定问题的一组指令或操作步骤，而数据结构是计算机中组织和存储数据的方式。 · 数据结构与算法紧密相连。数据结构是算法的基石，而算法则是发挥数据结构作用的舞台。 乐高积木对应于数据，积木形状和连接方式代表数据结构，拼装积木的步骤则对应算法。 ### 2. 复杂度 #### 2.1. 算法效率评估 ##### 2.1.1. 算法评价维度 因此，在能够解决问题的前提下，算法效率成为主要的评价维度，主要包括： · 时间效率，即算法运行速度的快慢。 · 空间效率，即算法占用内存空间的大小。 简而言之，我们的目标是设计“既快又省”的数据结构与算法。掌握评估算法效率的方法则至关重要，因为只有了解评价标准，我们才能进行算法之间的对比分析，从而指导算法设计与优化过程。 ##### 2.1.2. 效率评估方法 ## 实际测试 假设我们现在有算法 A 和算法 B，它们都

15. 贪心 ..... 303 15.1. 贪心算法 ..... 303 15.2. 分数背包问题 ..... 307 15.3. 最大容量问题 ..... 310 15.4. 最大切分乘积问题 ..... 316 15.5. 小结 ..... 319 16. 附录 ..... 321 16.1. 编程环境安装 ..... 321 16.2. 一起参与创作 ..... 322 货币找零的步骤本质上是贪心算法，每一步都采取当前看来的最好选择。 算法是在有限时间内解决特定问题的一组指令或操作步骤，而数据结构是计算机中组织和存储数据的方式。 · 数据结构与算法紧密相连。数据结构是算法的基石，而算法则是发挥数据结构作用的舞台。 乐高积木对应于数据，积木形状和连接方式代表数据结构，拼装积木的步骤则对应算法。 ### 2. 复杂度 #### 2.1. 算法效率评估 ##### 2.1.1. 算法评价维度 因此，在能够解决问题的前提下，算法效率成为主要的评价维度，主要包括： · 时间效率，即算法运行速度的快慢。 · 空间效率，即算法占用内存空间的大小。 简而言之，我们的目标是设计“既快又省”的数据结构与算法。掌握评估算法效率的方法则至关重要，因为只有了解评价标准，我们才能进行算法之间的对比分析，从而指导算法设计与优化过程。 ##### 2.1.2. 效率评估方法 ## 实际测试 假设我们现在有算法 A 和算法 B，它们都

15. 贪心 ..... 321 15.1. 贪心算法 ..... 321 15.2. 分数背包问题 ..... 325 15.3. 最大容量问题 ..... 328 15.4. 最大切分乘积问题 ..... 334 15.5. 小结 ..... 337 16. 附录 ..... 339 16.1. 编程环境安装 ..... 339 16.2. 一起参与创作 ..... 340 货币找零的步骤本质上是贪心算法，每一步都采取当前看来的最好选择。 算法是在有限时间内解决特定问题的一组指令或操作步骤，而数据结构是计算机中组织和存储数据的方式。 · 数据结构与算法紧密相连。数据结构是算法的基石，而算法则是发挥数据结构作用的舞台。 乐高积木对应于数据，积木形状和连接方式代表数据结构，拼装积木的步骤则对应算法。 ### 2. 复杂度 #### 2.1. 算法效率评估 ##### 2.1.1. 算法评价维度 因此，在能够解决问题的前提下，算法效率成为主要的评价维度，主要包括： · 时间效率，即算法运行速度的快慢。 · 空间效率，即算法占用内存空间的大小。 简而言之，我们的目标是设计“既快又省”的数据结构与算法。掌握评估算法效率的方法则至关重要，因为只有了解评价标准，我们才能进行算法之间的对比分析，从而指导算法设计与优化过程。 ##### 2.1.2. 效率评估方法 ## 实际测试 假设我们现在有算法 A 和算法 B，它们都