以预见地，本书会存在部分语句表达不准确、部分素材尚未创作完成、部分参考引用未能及 时补充、甚至一些错误出现，因此本书以开源、免费地方式发布，希望一方面能够帮助初学 者快速上手深度学习算法，另一方面也能汇聚众多行业专家们的力量，修正测试版中的谬误 之处，让本书变得更为完善。 本书虽然免费开放电子版，供个人学习使用，但是未经许可，不能用于任何个人或者企 业的商业用途，违法盗版和销售，必究其法律责任。 龙龙老师 2021 PyTorch 进阶 5.1 合并与分割 5.2 数据统计 5.3 张量比较 5.4 填充与复制 5.5 数据限幅 5.6 高级操作 5.7 经典数据集加载 5.8 MNIST 测试实战 5.9 参考文献 第 6 章 神经网络 6.1 感知机 6.2 全连接层 6.3 神经网络 6.4 激活函数 6.5 输出层设计 6.6 误差计算 6 7.8 Himmelblau 函数优化实战 7.9 反向传播算法实战 7.10 参考文献 第 8 章 PyTorch 高级用法 8.1 常见功能模块 8.2 模型装配、训练与测试 8.3 模型保存与加载 8.4 自定义类 8.5 模型乐园 8.6 测量工具 8.7 可视化 8.8 参考文献 第 9 章 过拟合 9.1 模型的容量 9

information. 1.4.4 PPL 评测 llama.cpp 为我们提供了评估 GGUF 模型 PPL 性能的方法。为了实现这一点，你需要准备一个数据集，比如 “wiki 测试”。这里我们展示了一个运行测试的例子。 第一步，下载数据集： wget https://s3.amazonaws.com/research.metamind.io/wikitext/wikitext-2-raw-v1 .zip? �→ref=salesforce-research -O wikitext-2-raw-v1.zip unzip wikitext-2-raw-v1.zip 然后你可以用如下命令运行测试： ./perplexity -m models/7B/ggml-model-q4_0.gguf -f wiki.test.raw 输出如下所示 perplexity : calculating qwen7b -f Modelfile 完成后，你即可运行你的 ollama 模型： ollama run qwen7b 1.6 Text Generation Web UI Text Generation Web UI（简称 TGW，通常被称为“oobabooga”）是一款流行的文本生成 Web 界面工具，类似 于 AUTOMATIC1111/stable-diffusion-webui

训练和验证模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 639 13.13.7 在 Kaggle 上对测试集进行分类并提交结果 . . . . . . . . . . . . . . . . . . . . . . . 640 13.14 实战Kaggle比赛：狗的品种识别（ImageNet Dogs） 14.6 训练和验证模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 646 13.14.7 对测试集分类并在Kaggle提交结果 . . . . . . . . . . . . . . . . . . . . . . . . . . . 647 14 自然语言处理：预训练 649 14.1 词嵌入（word2vec） 亚马逊，在20世纪90年代开发了成功的数据库驱 动网页应用程序。但在过去的10年里，这项技术在帮助创造性企业家方面的潜力已经得到了更大程度的发挥， 部分原因是开发了功能强大、文档完整的框架。 测试深度学习的潜力带来了独特的挑战，因为任何一个应用都会将不同的学科结合在一起。应用深度学习需 要同时了解（1）以特定方式提出问题的动机；（2）给定建模方法的数学； （3）将模型拟合数据的优化算法； （4）

内容理解——视频智能封面图 内容理解——总结 • ����������check��QU���������7�3� ��������NDCG ��1%���� • �������������� • 测试集a 语kr工标注gTQuPG VTuVh • 目前最高:215 a0.+x • 固定数据尝试e同模型a • 双向8ST9+/VVHPVLQP 0.+x • 0L5>A GTQRQuV 语k模型——总结 排序应用——g性化表征 排序应用——g性化表征 ����������� � ���������������������q������R�����yd���� � ��s�ui��������o�e�s������������� � 2������������ ����s���� � ������1��s�������T����������� �������v�

parameters () , l r=learning_rate ) 现在我们先构思一下训练的主体程序，该程序训练 10 轮，并且每轮会训练一次，然后测试一 次准确率。训练函数的输入是训练数据、神经网络体、损失函数计算体以及优化器；测试函数不 需要优化器： epochs = 10 f or t in range ( epochs ) : print ( f ”Epoch␣{ t+1 loss_function , optimizer ) test_loop ( test_dataloader , model , loss_function ) print ( ”Done ! ” ) 然后就是训练和测试的程序，训练一轮的程序如下： def train_loop ( dataloader , model , loss_function , optimizer ) : s i z e = len ( 我们打印输出一下 len(dataloader.dataset)，发现训练集有 60000 个数据。因为每个 batch 个 数为 64 个数据，因此训练集要训练 938 次，我们每 100 次输出一下。 测试集的程序如下： Chapter 2. 构建神经网络 13 def test_loop ( dataloader , model , loss_function ) : s i z e = len

. . . . . . . . . . . . . . . 29 3.3.6.4 处理已保存模型中的自定义层（或其他自定义对象） . . . . . . . 30 3.3.7 为什么训练误差比测试误差高很多？ . . . . . . . . . . . . . . . . . . . . . . 31 3.3.8 如何获取中间层的输出？ . . . . . . . . . . . . . Keras? • 如何在多 GPU 上运行 Keras 模型? • “sample”, “batch”, “epoch” 分别是什么？ • 如何保存 Keras 模型？ • 为什么训练误差比测试误差高很多？ • 如何获取中间层的输出？ • 如何用 Keras 处理超过内存的数据集？ • 在验证集的误差不再下降时，如何中断训练？ • 验证集划分是如何计算的？ • 在训练过程中数据是否会混洗？ AttentionLayer}) 3.3.7 为什么训练误差比测试误差高很多？ Keras 模型有两种模式：训练和测试。正则化机制，如 Dropout 和 L1/L2 权重正则化，在测 试时是关闭的。 此外，训练误差是每批训练数据的平均误差。由于你的模型是随着时间而变化的，一个 epoch 中的第一批数据的误差通常比最后一批的要高。另一方面，测试误差是模型在一个 epoch 训练 完后计算的，因而误差较小。

验证码（CAPTCHA）简介 全自动区分计算机和人类的公开图灵测试（英语：Completely Automated Public Turing test to tell Computers and Humans Apart，简称CAPTCHA），俗称验证码，是一种区分用户是 计算机或人的公共全自动程序。在CAPTCHA测试中，作为服务器的计算机会自动生成一 个问题由用户来解答。这个问题 。 一种常用的CAPTCHA测试是让用户输入一个扭曲变形的图片上所显示的文字或数字，扭 曲变形是为了避免被光学字符识别（OCR, Optical Character Recognition）之类的计算机程 序自动识别出图片上的文数字而失去效果。由于这个测试是由计算机来考人类，而不是 标准图灵测试中那样由人类来考计算机，人们有时称CAPTCHA是一种反向图灵测试。 https://zh.wikipedia 快速搭建 验证码识别服务 使用 Flask 启动 验证码识别服务 $ export FLASK_ENV=development && flask run --host=0.0.0.0 打开浏览器访问测试 URL（http://localhost:5000/ping） 访问 验证码识别服务 $ curl -X POST -F image=@2140.png 'http://localhost:5000/predict'

selection），即做模型的最终优化及确定的， 用来辅助我们的模型的构建，即训练超参数，可选； 测试集（Test Set）： 为了测试已经训练好的模型的精确度。 三者划分：训练集、验证集、测试集 机器学习：60%，20%，20%；70%，10%，20% 深度学习：98%，1%，1% （假设百万条数据） 数据集划分 数据集 训练集 验证集 测试集 4 交叉验证 1. 使用训练集训练出10个模型 2. 用10个模型分别对交叉验证集 用10个模型分别对交叉验证集 计算得出交叉验证误差（代价函 数的值） 3. 选取代价函数值最小的模型 4. 用步骤3中选出的模型对测试 集计算得出推广误差（代价函数 的值） 5 数据集制作 PyTorch的dataloader是用于读取训练数据的工具，它可以自动将数据分割 成小batch，并在训练过程中进行数据预处理。 6 数据集制作 class MyDataset(Dataset): 2正则化不同的是，被应用的方 式不同，dropout也会有所不同，甚至更适用于不同的输入范围 keep-prob=1(没有dropout) keep-prob=0.5(常用取值，保留一半神经元) 在训练阶段使用，在测试阶段不使用！ Dropout正则化 13 正则化 Early stopping代表提早停止训练神经网络 Early stopping的优点是，只运行 一次梯度下降，你可以找出?的较小 值，中间值和较大值，而无需尝试

Scikit-learn主要用法 03 Scikit-learn案例 7 X_train | 训练数据. X_test | 测试数据. X | 完整数据. 符号标记 2.Scikit-learn主要用法 y_train | 训练集标签. y_test | 测试集标签. y | 数据标签. 8 2.Scikit-learn主要用法 导入工具包 from sklearn import random_state=12, stratify=y, test_size=0.3) 将完整数据集的70%作为训练集，30%作为测试集，并使得测试集和训练集 中各类别数据的比例与原始数据集比例一致（stratify分层策略），另外 可通过设置 shuffle=True 提前打乱数据 数据划分 训练集 测试集 数据集 11 2.Scikit-learn主要用法 使⽤Scikit-learn进⾏数据标准化 from 、损失函 数以及成对数据的距离度量函数. from sklearn.metrics import accuracy_score accuracy_score(y_true, y_pred) 对于测试集而言，y_test即是y_true，大部分函数都必须包含真实值 y_true和预测值y_pred. 22 2.Scikit-learn主要用法 评价指标 回归模型评价 metrics.m