1 2023年06月 机器学习-决策树 黄海广 副教授 2 本章目录 01 决策树原理 02 ID3算法 03 C4.5算法 04 CART算法 3 1.决策树原理 01 决策树原理 02 ID3算法 03 C4.5算法 04 CART算法 4 长相 能 帅 不帅 家庭背景 好 能 不好 人品 好 上进心 能 不能 有 有 无 不能 不好 1.决策树原理 ⚫ 决策树：从训练数据中学习得出一个树状 结构的模型。 ⚫ 决策树属于判别模型。 ⚫ 决策树是一种树状结构，通过做出一系列 决策（选择）来对数据进行划分，这类似 于针对一系列问题进行选择。 ⚫ 决策树的决策过程就是从根节点开始，测 试待分类项中对应的特征属性，并按照其 值选择输出分支，直到叶子节点，将叶子 节点的存放的类别作为决策结果。 node) 5 1.决策树原理 根节点 (root node) 非叶子节点 (non-leaf node) (代表测试条件，对数据属性的测试) 分支 (branches) (代表测试结果) 叶节点 (leaf node) (代表分类后所获得的分类标记) ⚫ 决策树算法是一种归纳分类算法 ，它通过对训练集的学习，挖掘 出有用的规则，用于对新数据进 行预测。 ⚫ 决策树算法属于监督学习方法。

结构的模型，通常用于自然语言处理和时间序列预测。在 10节 中，我们介绍了一类新的模型，它采用 了一种称为注意力机制的技术，最近它们已经开始在自然语言处理中取代循环神经网络。这一部分将 帮助读者快速了解大多数现代深度学习应用背后的基本工具。 • 第三部分讨论可伸缩性、效率和应用程序。首先，在 11节 中，我们讨论了用于训练深度学习模型的几 种常用优化算法。下一章 12节 将探讨影响深度学习代码计算性能的几个关键因素。在 再比如，如果用“过去的招聘决策数据”来训练一个筛选简历的模型，那么机器学习模型可能会无意中捕捉 到历史残留的不公正，并将其自动化。然而，这一切都可能在不知情的情况下发生。因此，当数据不具有充 分代表性，甚至包含了一些社会偏见时，模型就很有可能有偏见。 20 1. 引言 1.2.2 模型 大多数机器学习会涉及到数据的转换。比如一个“摄取照片并预测笑脸”的系统。再比如通过摄取到的一组 传 分类可能变得比二项分类、多项分类复杂得多。例如，有一些分类任务的变体可以用于寻找层次结构，层次 结构假定在许多类之间存在某种关系。因此，并不是所有的错误都是均等的。人们宁愿错误地分入一个相关 的类别，也不愿错误地分入一个遥远的类别，这通常被称为层次分类(hierarchical classification)。早期的一 个例子是卡尔·林奈13，他对动物进行了层次分类。 在动物分类的应用中，

集群的一个内部组成部分。为集群机器部 署操作系统是 OpenShift Container Platform 的安装过程的一部分。请参阅 OpenShift Container Platform 3 和 4 之间的差别。 由于需要置备机器作为 OpenShift Container Platform 集群安装过程的一部分，所以无法将 OpenShift Container Platform 3 集群升级到 OpenShift 4，因此可以使用任何类型的生产环境集群安装过程来创建新集群。 2.1.3. 您是否希望在您的集群中使用已存在的组件？ 由于操作系统是 OpenShift Container Platform 集成的一部分，因此让安装程序可以更轻松地支持所有基 础架构。它们被称为安装程序置备的基础架构 安装。在这种安装中，您可以为集群提供一些现有的基础架 构，但安装程序会部署集群初始需要的所有机器。 您可以在不对集群或其底层机器自定义 on AWS 的安装。 对于安装程序置备的基础架构安装，您可以在现存的 VPC in AWS, vNet in Azure, 或 VPC in GCP 中使 用。您还可以重复使用网络基础架构的一部分，以便 AWS、Azure、GCP 或 VMC on AWS 可以与环境中 现有的 IP 地址分配共存，并与现有的 MTU 和 VXLAN 配置集成。如果在这些云上已有帐户和凭证，您可 以重复使用这些

集群的一个内部组成部分。为集群机器部 署操作系统是 OpenShift Container Platform 的安装过程的一部分。请参阅 OpenShift Container Platform 3 和 4 之间的差别。 由于需要置备机器作为 OpenShift Container Platform 集群安装过程的一部分，所以无法将 OpenShift Container Platform 3 集群升级到 OpenShift 4，因此可以使用任何类型的生产环境集群安装过程来创建新集群。 2.1.3. 您是否希望在您的集群中使用已存在的组件？ 由于操作系统是 OpenShift Container Platform 集成的一部分，因此让安装程序可以更轻松地支持所有基 础架构。它们被称为安装程序置备的基础架构 安装。在这种安装中，您可以为集群提供一些现有的基础架 构，但安装程序会部署集群初始需要的所有机器。 您可以在不对集群或其底层机器自定义 或 Nutanix 的安装。 对于安装程序置备的基础架构安装，您可以使用现有的 VPC in AWS, vNet in Azure, 或 VPC in GCP。您 还可以重复使用网络基础架构的一部分，以便 AWS、Azure、GCP 中的集群可以与环境中的现有 IP 地址 分配共存，并与现有的 MTU 和 VXLAN 配置集成。如果在这些云上已有帐户和凭证，您可以重复使用这 些帐户，但可能需要修改帐户，以便具有在它们上安装

|?)，非概率模型则为? = ?(?)。 其中，?是输入，?是输出。 在无监督学习中，概率模型可被表示为?(?|?)，非概率模型则为? = ?(?)。 其中，?是输入，?是输出。 21 决策树、朴素贝叶斯、隐马尔科夫模型、高斯混合模型属于概率模型。 感知机、支持向量机、KNN、AdaBoost、K-means以及神经网络均属于非概 率模型。 对于非概率模型而言，可按照判别函数线性与否分成线性模型与非线性模型。 (?2)?(?1|?2) ?(?1?2 ⋯ ??) = ?(?1)?(?2|?1)?(?3|?1?2) ⋯ ?(??|?1?2 ⋯ ??−1) 47 概率论与数理统计-常见分布 (1) 0-1分布:?(? = ?) = ??(1 − ?)1−?, ? = 0,1 (2) 二项分布:?(?, ?)： ?(? = ?) = ?????(1 − ?)?−?, ? = 0,1, ⋯ , ? (3) Pandas 纳入了大量库和一些标准的数据模型，提供了高效地操作大型 数据集所需的工具。Pandas提供了大量能使我们快速便捷地处理数据的 函数和方法。你很快就会发现，它是使Python成为强大而高效的数据分 析环境的重要因素之一。 63 Python模块-Pandas ⚫ 基本数据结构 Series 一维数据结构，包含行索 引和数据两个部分 DataFrame 二维数据结构，包含 带索引的多列数据，

OpenShift Container Platform master 主机和 etcd 之间。OpenShift Container Platform API 服务器（master 二进 制的一部分）在节点状态、网络配置、secret 等方面咨询 etcd。 通过以下方法优化此流量路径： 在 master 主机上运行 etcd。默认情况下，etcd 在所有 master 主机上的静态 pod kubeletArguments: kube-api-qps: - "20" kube-api-burst: - "40" 第 第 3 章 章 推荐的主机 推荐的主机实 实践 践 9 过程的一部分，如果需要，您需要将 etcd 存储 API 升级到 v3。在版本 3.7 及更新的版本中，必须使用 v3 API。 除了更改 v3 的新安装模式外，OpenShift Container Platform 通过将软件包从基本分发中移到基础分发中，并集成到这个支持容器中，允许用户部署最少的占 用空间容器主机。 为 Red Hat Enterprise Linux 7 Atomic Host 提供调试功能，它具有不可变的软件包树。rhel- tools 包括 tcpdump、sosreport、git、GDB、perf 等实用程序，以及更常见的系统管理实用程 序。 使用以下命令使用 rhel-tools 容器： 如需更多信息，请参阅

的安装过程中为集群机器部署操作系统。请参阅 OpenShift Container Platform 3 和 4 之间的差别。 由于需要置备机器作为 OpenShift Container Platform 集群安装过程的一部分，所以无法将 OpenShift Container Platform 3 集群升级到 OpenShift Container Platform 4。相反，您必须创建新的 OpenShift Container 4，因此可以使用任何类型的生产环境集群安装过程来创建新集群。 2.1.3. 您是否希望在您的集群中使用已存在的组件？ 由于操作系统是 OpenShift Container Platform 集成的一部分，因此让安装程序可以更轻松地支持所有基 础架构。它们被称为安装程序置备的基础架构 安装。在这种安装中，您可以为集群提供一些现有的基础架 构，但安装程序会部署集群初始需要的所有机器。 您可以在不对集群或其底层机器自定义 VMC on AWS 的安装。 对于安装程序置备的基础架构安装，您可以使用现存的 VPC in AWS, vNet in Azure, 或 VPC in GCP。您 还可以重复使用网络基础架构的一部分，以便 AWS、Azure、GCP 或 VMC on AWS 可以与环境中现有的 IP 地址分配共存，并与现有的 MTU 和 VXLAN 配置集成。如果在这些云上已有帐户和凭证，您可以重复 使用这些帐

2 章 章 选择 选择集群安装方法并 集群安装方法并为 为用 用户 户准 准备 备它 它 13 由于需要置备机器作为 OpenShift Container Platform 集群安装过程的一部分，所以无法将 OpenShift Container Platform 3 集群升级到 OpenShift Container Platform 4。相反，您必须创建新的 OpenShift Container 4，因此可以 使用任何类型的生产环境集群安装过程来创建新集群。 2.1.3. 您是否希望在您的集群中使用已存在的组件？ 由于操作系统是 OpenShift Container Platform 集成的一部分，因此让安装程序可以更轻松地支持所有基 础架构。它们被称为安装程序置备的基础架构 安装。在这种安装中，您可以为集群提供一些现有的基础架 构，但安装程序会部署集群初始需要的所有机器。 您可以在不对集群或其底层机器自定义 VMC on AWS 的安装。 对于安装程序置备的基础架构安装，您可以使用一个现存的 VPC in AWS、vNet in Azure 或 VPC in GCP. 您还可以重复使用网络基础架构的一部分,以便 AWS 上的 AWS、Azure、GCP 或 VMC 中的集群可以 与 环境中的现有 IP 地址分配共存,并与现有的 MTU 和 VXLAN 配置集成。如果在这些云上已有帐户和凭证， 您可以

可能的值有： always - 在 在 pod 中成功重启一个成功退出的容器，使用规定的延时(10s，20s，40s)上限为 5 分 钟。默认值为 Always。 OnFailure - 按规定的延时值（10s，20s，40s）不断尝试重启 pod 中失败的容器，上限为 5 分 钟。 Never - 不尝试重启 pod 中已退出或失败的容器。Pod 立即失败并退出。 在 pod 绑定到某个节点后，该 中断预算来指定必须在线的 pod 数量 pod 中断预算是 Kubernetes API 的一部分，可以像其他对象类型一样通过 oc 命令进行管理。它们允许在 操作过程中指定 pod 的安全约束，比如为维护而清空节点。 PodDisruptionBudget 是一个 API 对象，用于指定在某一时间必须保持在线的副本的最小数量或百分 比。在项目中进行这些设置对节点维护（比如缩减集群或升级集群）有益，而且仅在自愿驱除（而非节点 PodDisruptionBudget 对象来指定某一时间必须保持在线的副本的最小数量或百分比。 流程 流程 配置 pod 中断预算： 1. 使用类似以下示例的对象定义来创建 YAML 文件： PodDisruptionBudget 是 policy/v1 API 组的一部分。 必须同时可用的最小 pod 数量。这可以是整数，也可以是指定百分比的字符串（如 20％ ％）。 对一组资源进行的标签查询。matchLabels

数据磁盘不支持指定磁盘吞吐量或磁盘 IOPS。您可以使用 PVC 配置这些属性。 其他 其他资 资源 源 Microsoft Azure ultra 磁盘文档 使用 CSI PVC 在强制磁盘上部署机器的机器集 使用树内 PVC 部署机器的机器集 2.3.7.1. 使用机器集 使用机器集创建 建带有巨型磁 有巨型磁盘的机器 的机器 您可以通过编辑机器集 YAML 文件在 Azure 上部署带有巨型磁盘的机器。 - 模式。端口定义中需要 nameSuffix 字 段。 您可以为每个端口启用中继。 另外，您还可以在端口中添加标签作为其标签 标签（ （tags） ）列表的一部分。 - radio vnicType: direct 3 portSecurity: false 4 - 模式。端口定义中需要 nameSuffix 字 段。 您可以为每个端口启用中继。 另外，您还可以在端口中添加标签作为其标签 标签（ （tags） ）列表的一部分。 如果您的集群使用 Kuryr，且 RHOSP SR-IOV 网络禁用端口安全，计算机器的主要端口必须具有： spec.template.spec.providerSpec.value.networks