预览版202112 第 3 章 分类问题 4 定 batch_size 参数即可构建带 batch 功能的数据集对象，设定 shuffle 参数让 DataLoader 自 动内部打乱数据之间的先后顺序，防止网络记忆住样本的标签信息。 为了方便理解 DataLoader 对象是如何产生批量数据的，可以试着加载一个批的数据并 观察。代码如下： # 加载一个批数据，并观察数据形状 也随之发生改变，依赖手动计算梯度的方 式显然不可行。 这时就是深度学习框架发明的意义所在，借助于自动求导(Autograd)技术，深度学习框 架在计算神经网络每层的输出以及损失函数的过程中，会内部构建神经网络的计算图模 型，并自动完成误差对任意参数?的偏导数 ?ℒ ??的计算，用户只需要搭建出网络结构，送入数 据，梯度将自动完成计算和更新，使用起来非常便捷高效，甚至连梯度下降算法也不需要 预览版202112 第4章 PyTorch 基础 我设想在未来，我们可能就相当于机器人的宠物狗， 到那时我也会支持机器人的。−克劳德·香农 PyTorch 是一个面向深度学习算法的科学计算库，内部数据保存在张量(Tensor)对象 上，所有的运算操作(Operation，简称 OP)也都是基于张量对象进行的。复杂的神经网络算 法本质上就是各种张量相乘、相加等基本运算操作的组合，在深入学习深度学习算法之

(Sukhbaatar et al., 2015) 和神经编程器‐解释器 (Reed and De Freitas, 2015)。它们允许统计建模者描述用于推理的迭代方法。这些工具允许重复修改深度神经网络的内部状 态，从而执行推理链中的后续步骤，类似于处理器如何修改用于计算的存储器。 • 另一个关键的发展是生成对抗网络 (Goodfellow et al., 2014) 的发明。传统模型中，密度估计和生成模 的概率。如果是夏天，下雨的概率 是0.5。 在这两种情况下，我们都不确定结果，但这两种情况之间有一个关键区别。在第一种情况中，图像实际上是 狗或猫二选一。在第二种情况下，结果实际上是一个随机的事件。因此，概率是一种灵活的语言，用于说明 我们的确定程度，并且它可以有效地应用于广泛的领域中。 2.6.1 基本概率论 假设我们掷骰子，想知道看到1的几率有多大，而不是看到另一个数字。如果骰子是公平的，那么所有六个结 要检查它是否有瑕疵。检查骰子的唯一方法是多 次投掷并记录结果。对于每个骰子，我们将观察到{1, . . . , 6}中的一个值。对于每个值，一种自然的方法是将 它出现的次数除以投掷的总次数，即此事件（event）概率的估计值。大数定律（law of large numbers）告 诉我们：随着投掷次数的增加，这个估计值会越来越接近真实的潜在概率。让我们用代码试一试！ 首先，我们导入必要的软件包。

omega omiga 欧米 29 3. 机器学习的背景知识-数学基础 高等数学 导数、微分、泰勒公式…… 线性代数 向量、矩阵、行列式、秩、线性方程组、特征值和特征向量…… 概率论与数理统计 随机事件和概率、概率的基本性质和公式、常见分布、期望、协 方差…… 30 高等数学-导数 导数(Derivative)，也叫导函数值。又名微商， 是微积分中的重要基础概念。当函数? = ?(?) 的自变量 概率论与数理统计-随机事件和概率 事件的关系 (1) 子事件：? ⊂ ?，若?发生，则?发生。 (2) 相等事件：? = ?，即? ⊂ ?，且? ⊂ ? 。 (3) 和事件：?⋃?（或? + ?），?与?中至少有一个发生。 (4) 差事件：? − ?，?发生但?不发生。 (5) 积事件：?⋂?（或??），?与?同时发生。 (6) 互斥事件（互不相容）：?⋂?=⌀。 (7) 互逆事件（对立事件）： 图形的各元素名称如下： 绘图框 是图形的最高容器，所 有图形必须放置在绘图框中. 子图 是绘图框中所包含的图形 ，即便绘图框只包含一幅图，也 称之为子图. 元素 是组成子图的部件，从子 图最内部的数据线条到外围的坐 标轴标签等都属于元素 71 Python模块-Matplotlib 图 形 样 式 72 4. 机器学习的开发流程 01 机器学习概述 02 机器学习的类型

omega omiga 欧米 30 3. 深度学习的背景知识-数学基础 高等数学 导数、微分、泰勒公式…… 线性代数 向量、矩阵、行列式、秩、线性方程组、特征值和特征向量…… 概率论与数理统计 随机事件和概率、概率的基本性质和公式、常见分布、期望、协 方差…… 31 高等数学-导数 导数(Derivative)，也叫导函数值。又名微商， 是微积分中的重要基础概念。当函数? = ?(?) 的自变量 概率论与数理统计-随机事件和概率 事件的关系 (1) 子事件：? ⊂ ?，若?发生，则?发生。 (2) 相等事件：? = ?，即? ⊂ ?，且? ⊂ ? 。 (3) 和事件：?⋃?（或? + ?），?与?中至少有一个发生。 (4) 差事件：? − ?，?发生但?不发生。 (5) 积事件：?⋂?（或??），?与?同时发生。 (6) 互斥事件（互不相容）：?⋂?=⌀。 (7) 互逆事件（对立事件）： 图形的各元素名称如下： 绘图框 是图形的最高容器，所 有图形必须放置在绘图框中. 子图 是绘图框中所包含的图形 ，即便绘图框只包含一幅图，也 称之为子图. 元素 是组成子图的部件，从子 图最内部的数据线条到外围的坐 标轴标签等都属于元素 72 Python模块-Matplotlib 图 形 样 式 73 深度学习框架 Keras 74 深度学习框架-PyTorch https://pytorch

validation_data=(x_val, y_val)) 3.1.5.7 带有状态 (stateful) 的相同的栈式 LSTM 模型 有状态的循环神经网络模型中，在一个 batch 的样本处理完成后，其内部状态（记忆）会被记录 并作为下一个 batch 的样本的初始状态。这允许处理更长的序列，同时保持计算复杂度的可控 性。 你可以在 FAQ 中查找更多关于 stateful RNNs 的信息。 validation_split。 模型 43 • shuffle: 布尔值（是否在每轮迭代之前混洗数据）或者字符串 (batch)。batch 是处理 HDF5 数据限制的特殊选项，它对一个 batch 内部的数据进行混洗。当 steps_per_epoch 非 None 时，这个参数无效。 • class_weight: 可选的字典，用来映射类索引（整数）到权重（浮点）值，用于加权损失函 数（仅 validation_split。 • shuffle: 布尔值（是否在每轮迭代之前混洗数据）或者字符串 (batch)。batch 是处理 HDF5 数据限制的特殊选项，它对一个 batch 内部的数据进行混洗。当 steps_per_epoch 非 None 时，这个参数无效。 • class_weight: 可选的字典，用来映射类索引（整数）到权重（浮点）值，用于加权损失函 数（仅

2017年上半年，各 大直播行业协会相应成立，行业平台自我 规范的同时，网信办、文化部等国家部门 对于直播行业监管也越发严格，几乎所有 知名的直播平台均被有关部门点名查处过， 特别2017 年月中旬，黄鳝事件引爆网络， 让色情直播再度被推上舆论浪尖。 微信朋友圈日上传图片10亿张，视频播放20亿次 4000亿QQ空间存量图片，每天空间相册新增6亿 张上传图片 SACC2017 内容审核 - 痛点和诉求 对于输入的图片，系统将会通过对其内容的识别 分析给出其属于武装份子、管制刀具、枪支弹药、 人群聚集、火灾、血腥、极端主义或恐怖主义标 识的概率，通过其概率最大的类型，判断其图片 性质属于属于暴恐还是正常。 Ø 高准确率： 在内部业务上测试，准确率97%，覆 盖80%以上的案例 Ø 腾讯云，承担每天数亿的图像审核， 已经 累计支持上百家客户。 Ø 微云，QQ群，支持视频识别的解决方案， 成熟灵活的产品方案，帮助业务扫除掉互

目录 01 随机事件和概率 02 随机变量及其概率分布 03 多维随机变量及其分布 05 数理统计的基本概念 04 随机变量的数字特征 3 1.随机事件和概率 01 随机事件和概率 02 随机变量及其概率分布 03 多维随机变量及其分布 05 数理统计的基本概念 04 随机变量的数字特征 4 1.事件的关系与运算 (1) (1) 子事件：? ⊂ ?，若?发生，则?发生。 (2) 相等事件：? = ?，即? ⊂ ?，且? ⊂ ? 。 (3) 和事件：?⋃?（或? + ?），?与?中至少有一个发生。 (4) 差事件：? − ?，?发生但?不发生。 (5) 积事件：?⋂?（或??），?与?同时发生。 (6) 互斥事件（互不相容）：?⋂?=⌀。 (7) 互逆事件（对立事件）： ?⋂? = ⌀, ?⋃? = ?, ? 。 1.随机事件和概率 5 2.运算律 (1) 交换律：?⋃? = ?⋃?, ?⋂? = ?⋂? (2) 结合律：(?⋃?)⋃? = ?⋃(?⋃?)； (?⋂?)⋂? = ?⋂(?⋂?) (3) 分配律：(?⋃?)⋂? = (?⋂?)⋃(?⋂?) 3.德.摩根律 ?⋃? = ?⋂? ?⋂? = ?⋃? 4.完全事件组 ?1?2 ⋯ ??两两互斥，且和事件为必然事件，即??⋂??

概率论和数理统计 随机事件和概率 1.事件的关系与运算 (1) 子事件：? ⊂ ?，若?发生，则?发生。 (2) 相等事件：? = ?，即? ⊂ ?，且? ⊂ ? 。 (3) 和事件：?⋃?（或? + ?），?与?中至少有一个发生。 (4) 差事件：? − ?，?发生但?不发生。 (5) 积事件：?⋂?（或??），?与?同时发生。 (6) 互斥事件（互不相容）：?⋂?=⌀。 =⌀。 (7) 互逆事件（对立事件）： ?⋂? = ⌀, ?⋃? = ?, ? = ?, ? = ? 。 2.运算律 (1) 交换律：?⋃? = ?⋃?, ?⋂? = ?⋂? (2) 结合律：(?⋃?)⋃? = ?⋃(?⋃?)； (?⋂?)⋂? = ?⋂(?⋂?) (3) 分配律：(?⋃?)⋂? = (?⋂?)⋃(?⋂?) 3.德.摩根律 ?⋃? = ?⋂? 4.完全事件组 ?1?2 ⋯ ??两两互斥，且和事件为必然事件，即??⋂?? = ⌀, ? ≠ ?, ⋃ ? ?=1 = ? 5.概率的基本概念 (1) 概率：事件发生的可能性大小的度量，其严格定义如下： 机器学习的数学基础 20 概率?(?)为定义在事件集合上的满足下面 3 个条件的函数： 1)对任何事件?，?(?) ≥ 0 2)对必然事件?，?(

实世界状态的完整描述。 事件集（事件空间） ：元素 的集合（称为事件）是 的子集（即每个 是一个实 验可能结果的集合）。 备注： 需要满足以下三个条件： (1) (2) (3) 概率度量 ：函数 是一个 的映射，满足以下性质： 对于每个 ， , 如果 是互不相交的事件 (即 当 时， ), 那么： 以上三条性质被称为概率公理。 举例： 考虑投掷六面骰子的事件。样本空间为 ， ， ， 。最简单的事件空间是平凡事件空间 .另一个事件空间是 的所有子集的集合。对于第一个事件空间，满足上述要求的唯一概率 度量由 ， 给出。对于第二个事件空间，一个有效的概率度量是将事件空间中每个事 件的概率分配为 ，这里 是这个事件集合中元素的数量；例如 ， 。 性质： 如果 ，则： (布尔不等式)： (全概率定律)：如果 ， ， 是一些互不相交的事件并且它们的并集是 ，那么它们的概率之 ，那么它们的概率之 和是1 1.1 条件概率和独立性 假设 是一个概率非0的事件，我们定义在给定 的条件下 的条件概率为： 换句话说， )是度量已经观测到 事件发生的情况下 事件发生的概率，两个事件被称为独立事件 当且仅当 （或等价地， )。因此，独立性相当于是说观察到事 件 对于事件 的概率没有任何影响。 2. 随机变量 考虑一个实验，我们翻转10枚硬币，我们想知道正面硬币的数量。这里，样本空间

= ? = ?T?，范围是(−∞, +∞)。 而分类预测结果需要得到[0,1]的概率值。 在二分类模型中，事件的几率odds：事件发生与事件不发生的概率之比为 ? 1−?， 称为事件的发生比（the odds of experiencing an event） 其中?为随机事件发生的概率，?的范围为[0,1]。 取对数得到：log ? 1−?，而log ? 1−? = ?T?