人们与智能手机的日常互动就可以涉及几种机器学习模型。 现在，假如需要我们编写程序来响应一个“唤醒词”（比如“Alexa”“小爱同学”和“Hey Siri”）。我们试 着用一台计算机和一个代码编辑器编写代码，如 图1.1.1中所示。问题看似很难解决：麦克风每秒钟将收集大 约44000个样本，每个样本都是声波振幅的测量值。而该测量值与唤醒词难以直接关联。那又该如何编写程 序，令其输入麦克风采集到的原始音频片段 x = 1时，此导数也是曲线u = f(x)切 线的斜率。 为了对导数的这种解释进行可视化，我们将使用matplotlib，这是一个Python中流行的绘图库。要配 置matplotlib生成图形的属性，我们需要定义几个函数。在下面，use_svg_display函数指定matplotlib软件 包输出svg图表以获得更清晰的图像。 注意，注释#@save是一个特殊的标记，会将对应的函数 set_yscale(yscale) axes.set_xlim(xlim) axes.set_ylim(ylim) if legend: axes.legend(legend) axes.grid() 通过这三个用于图形配置的函数，定义一个plot函数来简洁地绘制多条曲线，因为我们需要在整个书中可视 化许多曲线。 #@save def plot(X, Y=None, xlabel=None, ylabel=None

Python 的环境的安装 ⚫Jupyter notebook 在cmd环境下，切换到代码的 目录，输入命令： jupyter notebook之后就可以 启动jupyter botebook编辑器 ，启动之后会自动打开浏览器 ，并访问http://localhost:8088 ，默认跳转到 http://localhost:8088/tree 53 ⚫Pycharm https://www 式和跨平台的交互式环境生成 出版质量级别的图形 。 通过 Matplotlib，开发者可以 仅需要几行代码，便可以生成 绘图，直方图，功率谱，条形 图，错误图，散点图等。 https://matplotlib.org/gallery/index.html 70 Python模块-Matplotlib 图形的各元素名称如下： 绘图框 是图形的最高容器，所 有图形必须放置在绘图框中. 子图 是绘图框中所包含的图形 是绘图框中所包含的图形 ，即便绘图框只包含一幅图，也 称之为子图. 元素 是组成子图的部件，从子 图最内部的数据线条到外围的坐 标轴标签等都属于元素 71 Python模块-Matplotlib 图 形 样 式 72 4. 机器学习的开发流程 01 机器学习概述 02 机器学习的类型 03 机器学习的背景知识 04 机器学习的开发流程 73 机器学习的一般步骤

Python 的环境的安装 ⚫Jupyter notebook 在cmd环境下，切换到代码的 目录，输入命令： jupyter notebook之后就可以 启动jupyter botebook编辑器 ，启动之后会自动打开浏览器 ，并访问http://localhost:8088 ，默认跳转到 http://localhost:8088/tree 54 ⚫Pycharm https://www 式和跨平台的交互式环境生成 出版质量级别的图形 。 通过 Matplotlib，开发者可以 仅需要几行代码，便可以生成 绘图，直方图，功率谱，条形 图，错误图，散点图等。 https://matplotlib.org/gallery/index.html 71 Python模块-Matplotlib 图形的各元素名称如下： 绘图框 是图形的最高容器，所 有图形必须放置在绘图框中. 子图 是绘图框中所包含的图形 是绘图框中所包含的图形 ，即便绘图框只包含一幅图，也 称之为子图. 元素 是组成子图的部件，从子 图最内部的数据线条到外围的坐 标轴标签等都属于元素 72 Python模块-Matplotlib 图 形 样 式 73 深度学习框架 Keras 74 深度学习框架-PyTorch https://pytorch.org/ 安装PyTorch 命令行运行： 75 深度学习框架-PyTorch

语言环境为例，介绍如何安装 PyTorch 框架及其它开发软件。 一般来说，开发环境安装分为 4 大步骤：安装 Python 解释器 Anaconda，安装 CUDA 加速库，安装 PyTorch 框架和安装常用编辑器。 1.6.1 Anaconda 安装 Python 解释器是让以 Python 语言编写的代码能够被 CPU 执行的桥梁，是 Python 语言 的核心软件。用户可以从 https://www 命令安装时，可能会出现下载速度缓慢甚至连接断开的情况，需要配置 国内的 pip 源，只需要在 pip install 命令后面带上“-i 源地址”参数即可。上述命令即使用 了清华大学的 pip 源。 1.6.4 常用编辑器安装 使用 Python 语言编写程序的方式非常多，可以使用 ipython 或者 ipython notebook 方式 交互式编写代码，也可以利用 Sublime Text、PyCharm ∗和?∗。 这种算法固然简单直接，但是面对大规模、高维度数据的优化问题时计算效率极低， 基本不可行。梯度下降算法(Gradient Descent)是神经网络训练中最常用的优化算法，配合 强大的图形处理芯片 GPU(Graphics Processing Unit)的并行加速计算能力，非常适合优化海 量数据的神经网络模型，自然也适合优化这里的神经元线性模型。这里先简单地应用梯度 下降算法，来解

脚本，Python，IPython Shell 和 Jupyter Notebook。 seaborn 是一个基于 matplotlib的 Python 数据可视化库。它提供了更易用的高级接口，用 于绘制精美且信息丰富的统计图形。 mpl_toolkits.mplot3d 是一个基础 3D绘图（散点图、平面图、折线图等）工具集，也是 matplotlib 库的一部分。同时，它也支持轻量级的独立安装模式。 数据分析（2D） 参数和超参数变化趋势。 在模型测试过程中，用户也往往需要查看准确率和召回率等评估指标。 因此，TensorFlow 项目组开发了机器学习可视化工具 TensorBoard ， 它通过展示直观的图形，能够有效地辅助机器学习程序的开发者和使 用者理解算法模型及其工作流程，提升模型开发工作效率。 TensorBoard 可视化训练 TensorBoard 可视化统计数据 TensorBoard

mean_pred]) 3.1.4 训练 Keras 模型在输入数据和标签的 Numpy 矩阵上进行训练。为了训练一个模型，你通常会使 用 fit 函数。文档详见此处。 # 对于具有 2 个类的单输入模型（二进制分类）： 快速开始 10 model = Sequential() model.add(Dense(32, activation='relu', input_dim=100)) model.add(Dense(1 包括在训练中每次更新时，将输入单元的按比率随机设置为 0，这有助于防止过拟 合。 参数 • rate: 在 0 和 1 之间浮动。需要丢弃的输入比例。 • noise_shape: 1D 整数张量，表示将与输入相乘的二进制 dropout 掩层的形状。例如，如果 你的输入尺寸为 (batch_size, timesteps, features)，然后你希望 dropout 掩层在所有 时间步都是一样的，你可以使用 oov_token=None) 文本标记实用类。 该类允许使用两种方法向量化一个文本语料库：将每个文本转化为一个整数序列（每个整 数都是词典中标记的索引）；或者将其转化为一个向量，其中每个标记的系数可以是二进制值、 词频、TF-IDF 权重等。 参数 • num_words: 需要保留的最大词数，基于词频。只有最常出现的 num_words 词会被保留。 • filters: 一个字符串，其中每个

除此之外，初始化时的位置嵌入不携带关于patch二维位置的信息，并且patch之间的所有空间关 系都需要从头学习。 4.模型缺点与改进 29 改进 作为原始图像块的替代方法，输入序列可以由CNN的特征图形成。 在该混合模型中，将patch嵌入投影E应用于从CNN feature map中提取的patch。 作为一种特殊情况，patches的空间大小可以是1x1，这意味着输入序列是通过简单地打平

description language）。其主要依赖 pyparsing 和 GraphViz 这两个工具库。 pyparsing：仅用于加载DOT文件，在 pydot 安装期间自动安装。 GraphViz：将图形渲染为PDF，PNG，SVG等格式文件，需独立安装。 https://github.com/lepture/captcha flask flask 是一个基于 Werkzeug 和 jinja2