现代编程思想 多元组，结构体与枚举类型 Hongbo Zhang 1 基础数据类型：多元组与结构体 2 回顾：多元组 多元组：固定⻓度的不同类型数据的集合 定义： (<表达式>, <表达式>, ...) 类型： (<表达式类型>, <表达式类型>, ...) 例如： 身份信息： ("Bob", 2023, 10, 24): (String, Int, Int, Int) 成员访问： 成员访问： <多元组>.<索引> ： (2023, 10, 24).0 == 2023 列表：任意⻓度的相同类型数据的集合 例如： 字符的序列： Cons('H', Cons('i', Cons('!', Nil))) Cons ： construct 的缩写 3 笛卡尔积 ⼀个多元组类型的元素即是每个组成类型的元素构成的有序元素组 集合的笛卡尔积，⼜称积类型 例：扑克牌的所有花⾊：{ new_info = { .. old_info, age: 2, } 2. let other_info = { .. old_info, name: "Hello", } 7 多元组与结构体的关系 结构体与相同类型集合构成的多元组同构 集合 A 与 B 之间存在⼀⼀映射的关系 存在⼀对映射 f: (A) -> B 与 g: (B) -> A 使得 g(f(a)) == a f(g(b)) ==

任务由计算需求节点发布到区块链网络，由数据持有节点确认数据使用权，由 任务执行节点最终执行。 算法 PaddleDTX中的算法，一般指的是经过分布式改造的机器学习算法，即联邦学 习算法。 目前开源了纵向联邦学习算法，包括多元线性回归和多元逻辑回归。 训练样本和预测数据集 PaddleDTX中的训练样本和预测数据集都是以文件的形式存储于中心化存储网 络，在发布训练任务或者预测任务的时候，由计算需求节点指定。 模型 算法和 汇总得到最终结 果。 正在进行中 我们即将支持的主要功能如下: 1. 支持更多的机器学习算法和对应的分布式改造，主要包括神经网络、决策 树等； 2. 支持横向联邦学习算法，计划先对多元线性回归和多元逻辑回归进行改 造； 3. 提供联邦学习训练参数的评估能力，通过交叉验证等方式评估训练参数的 优劣； 4. 优化目前使用的加法同态算法Paillier的性能； 5. 去中心化存储服务支 接口使用部分 。 Crypto PaddleDTX 的 crypto 模块实现了若干机器学习算法和对应的分布式改造，为分 布式计算网络提供了算法支撑。 目前开源了纵向联邦学习算法，包括多元线性回归和多元逻辑回归。同时支持 秘密分享、不经意传输、加法同态加密、隐私求交等联邦学习依赖的工具。 数据隐私保护 随着大数据和机器学习技术地不断发展，人工智能在各个领域实现了商业落 地。然而，数据孤岛

持有节点确认数据使用权，由任务执行节点最终执行。 2.4 算法 PaddleDTX 中的算法，一般指的是经过分布式改造的机器学习算法，即联邦学习算法。 目前开源了纵向联邦学习算法，包括多元线性回归和多元逻辑回归。 2.5 训练样本和预测数据集 PaddleDTX 中的训练样本和预测数据集都是以文件的形式存储于中心化存储网络，在发布训练任务或者预测 任务的时候，由计算需求节点指定。 2 基本概念 CHAPTER3 正在进行中 我们即将支持的主要功能如下: 1. 支持更多的机器学习算法和对应的分布式改造，主要包括神经网络、决策树等； 2. 支持横向联邦学习算法，计划先对多元线性回归和多元逻辑回归进行改造； 3. 提供联邦学习训练参数的评估能力，通过交叉验证等方式评估训练参数的优劣； 4. 优化目前使用的加法同态算法 Paillier 的性能； 5. 去中心化存储服务支持 CHAPTER12 Crypto PaddleDTX 的 crypto 模块实现了若干机器学习算法和对应的分布式改造，为分布式计算网络提供了算法支撑。 目前开源了纵向联邦学习算法，包括多元线性回归和多元逻辑回归。同时支持秘密分享、不经意传输、加法 同态加密、隐私求交等联邦学习依赖的工具。 12.1 数据隐私保护 随着大数据和机器学习技术地不断发展，人工智能在各个领域实现了商业落地。然而，数据孤岛和数据隐私

任务由计算需求节点发布到区块链网络，由数据持有节点确认数据使用权，由 任务执行节点最终执行。 算法 PaddleDTX中的算法，一般指的是经过分布式改造的机器学习算法，即联邦学 习算法。 目前开源了纵向联邦学习算法，包括多元线性回归和多元逻辑回归。 训练样本和预测数据集 PaddleDTX中的训练样本和预测数据集都是以文件的形式存储于中心化存储网 络，在发布训练任务或者预测任务的时候，由计算需求节点指定。 模型 算法和 时，可获得一系列评估指标，展示训练效果变化趋势。 正在进行中 我们即将支持的主要功能如下: 1. 支持更多的机器学习算法和对应的分布式改造，主要包括神经网络、决策 树等； 2. 支持横向联邦学习算法，计划先对多元线性回归和多元逻辑回归进行改 造； 3. 优化目前使用的加法同态算法Paillier的性能； 4. 去中心化存储服务支持负载均衡策略，根据存储节点剩余资源和以往表现 情况，在文件分发时找到最优节点列表。 接口使用部分 。 Crypto PaddleDTX 的 crypto 模块实现了若干机器学习算法和对应的分布式改造，为分 布式计算网络提供了算法支撑。 目前开源了纵向联邦学习算法，包括多元线性回归和多元逻辑回归。同时支持 秘密分享、不经意传输、加法同态加密、隐私求交等联邦学习依赖的工具。 数据隐私保护 随着大数据和机器学习技术地不断发展，人工智能在各个领域实现了商业落 地。然而，数据孤岛

持有节点确认数据使用权，由任务执行节点最终执行。 2.4 算法 PaddleDTX 中的算法，一般指的是经过分布式改造的机器学习算法，即联邦学习算法。 目前开源了纵向联邦学习算法，包括多元线性回归和多元逻辑回归。 2.5 训练样本和预测数据集 PaddleDTX 中的训练样本和预测数据集都是以文件的形式存储于中心化存储网络，在发布训练任务或者预测 任务的时候，由计算需求节点指定。 2 基本概念 CHAPTER3 正在进行中 我们即将支持的主要功能如下: 1. 支持更多的机器学习算法和对应的分布式改造，主要包括神经网络、决策树等； 2. 支持横向联邦学习算法，计划先对多元线性回归和多元逻辑回归进行改造； 3. 优化目前使用的加法同态算法 Paillier 的性能； 4. 去中心化存储服务支持负载均衡策略，根据存储节点剩余资源和以往表现情况，在文件分发时找到最 优节点列表。 CHAPTER12 Crypto PaddleDTX 的 crypto 模块实现了若干机器学习算法和对应的分布式改造，为分布式计算网络提供了算法支撑。 目前开源了纵向联邦学习算法，包括多元线性回归和多元逻辑回归。同时支持秘密分享、不经意传输、加法 同态加密、隐私求交等联邦学习依赖的工具。 12.1 数据隐私保护 随着大数据和机器学习技术地不断发展，人工智能在各个领域实现了商业落地。然而，数据孤岛和数据隐私

3.3 联合概率和边缘概率密度函数 3.4 条件概率分布 3.5 贝叶斯定理 3.6 独立性 3.7 期望和协方差 4. 多个随机变量 4.1 基本性质 4.2 随机向量 4.3 多元高斯分布 5. 其他资源 概率论复习和参考 概率论是对不确定性的研究。通过这门课，我们将依靠概率论中的概念来推导机器学习算法。这篇笔记 试图涵盖适用于CS229的概率论基础。概率论的数学 给出。从协方差的定义来看，我们有： 其中矩阵期望以明显的方式定义。 协方差矩阵有许多有用的属性: ；也就是说， 是正半定的。 ；也就是说， 是对称的。 4.3 多元高斯分布 随机向量上概率分布的一个特别重要的例子叫做多元高斯或多元正态分布。随机向量 被认为具 有多元正态(或高斯)分布，当其具有均值 和协方差矩阵 (其中 指对称正定 矩阵 的空间) 我们把它写成 。请注意，在 的情况下，它降维成普通正态分布，其中均值参数为

⽉兔的开发⼯具可以在开发时实时提示检查到的类型错误 图中的错误源于字符串与数字不能直接相加 14 ⽉兔的基本数据类型 逻辑值（布尔值） 整数（整型、⻓整形） 浮点数（单精度浮点数、双精度浮点数） 字符与字符串 多元组 …… 15 逻辑值（布尔值） ⽉兔中逻辑值的类型为 Bool 逻辑值只有两个可能值： true false 常⻅运算 ⾮：⾮真为假，⾮假为真 not(true) == false II， 有UTF-8、UTF-16等编码⽅式 例如：�⽉��兔�分别对应26376与20820 Int 转化为 Char ： Char::from_int(65) == 'A' 19 多元组 多元组允许我们将表达固定⻓度的、不同类型的数据组合 ("Bob", 3): (String, Int) (2023, 10, 24): (Int, Int, Int) 可以通过从0开始的下标访问数据 式的值该是什么呢？） 38 总结 我们本章节学习了 如何配置⽉兔开发环境 浏览器开发环境 云原⽣开发环境 本地开发环境 ⽉兔基本数据类型 逻辑值 整数和浮点数 字符和字符串 多元组 如何以表达式和值来看待⽉兔程序，以简化求值来理解⽉兔程序的运⾏ 39

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 4 更多模式能力 9 4.1 更多元字符 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9 but also enables \w+ to match French words as you’d expect. M MULTILINE (^ 和 $ 还没有解释；它们将在以下部分介绍更多元字符。) 通常 ^ 只匹配字符串的开头，而 $ 只匹配字符串的结尾，紧接在字符串末尾的换行符（如果有的话） 之前。当指定了这个标志时，^ 匹配字符串的开头和字符串中每一行的开头，紧跟在每个换行符之后。 下使用 re.VERBOSE 版本更难理解。 4 更多模式能力 到目前为止，我们只介绍了正则表达式的一部分功能。在本节中，我们将介绍一些新的元字符，以及如何使 用组来检索匹配的文本部分。 4.1 更多元字符 我们还没有涉及到一些元字符。其中大部分内容将在本节中介绍。 要讨论的其余一些元字符是 零宽度断言。它们不会使解析引擎在字符串中前进一个字符；相反，它们根本不 占用任何字符，只是成功或失败。例如，\b

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 4 更多模式能力 9 4.1 更多元字符 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9 but also enables \w+ to match French words as you’d expect. M MULTILINE (^ 和 $ 还没有解释；它们将在以下部分介绍更多元字符。) 通常 ^ 只匹配字符串的开头，而 $ 只匹配字符串的结尾，紧接在字符串末尾的换行符（如果有的话） 之前。当指定了这个标志时，^ 匹配字符串的开头和字符串中每一行的开头，紧跟在每个换行符之后。 下使用 re.VERBOSE 版本更难理解。 4 更多模式能力 到目前为止，我们只介绍了正则表达式的一部分功能。在本节中，我们将介绍一些新的元字符，以及如何使 用组来检索匹配的文本部分。 4.1 更多元字符 我们还没有涉及到一些元字符。其中大部分内容将在本节中介绍。 要讨论的其余一些元字符是 零宽度断言。它们不会使解析引擎在字符串中前进一个字符；相反，它们根本不 占用任何字符，只是成功或失败。例如，\b

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 4 更多模式能力 9 4.1 更多元字符 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9 but also enables \w+ to match French words as you’d expect. M MULTILINE (^ 和 $ 还没有解释；它们将在以下部分介绍更多元字符。) 通常 ^ 只匹配字符串的开头，而 $ 只匹配字符串的结尾，紧接在字符串末尾的换行符（如果有的话） 之前。当指定了这个标志时，^ 匹配字符串的开头和字符串中每一行的开头，紧跟在每个换行符之后。 下使用 re.VERBOSE 版本更难理解。 4 更多模式能力 到目前为止，我们只介绍了正则表达式的一部分功能。在本节中，我们将介绍一些新的元字符，以及如何使 用组来检索匹配的文本部分。 4.1 更多元字符 我们还没有涉及到一些元字符。其中大部分内容将在本节中介绍。 要讨论的其余一些元字符是 零宽度断言。它们不会使解析引擎在字符串中前进一个字符；相反，它们根本不 占用任何字符，只是成功或失败。例如，\b