Postgres Conference China 2016 中国用户大会 高金芳 平安科技（深圳）有限公司 PostgreSQL“反向代理”Redis 2016Postgres中国用户大会 Postgres Conference China 2016 中国用户大会 职务：平安科技数据库技术部数据库架构师 邮箱：gaojinfang498@pingan

MLP反向传播 主讲人：龙良曲 Chain rule ▪ ?? ???? ? = ?? ??? 1 ??? 1 ?? = ?? ??? 2 ??? 2 ??? 1 ??? 1 ?? ∑ E ?? ∑ ??? ? ??? ? ?? ? ?? ? Multi-output Perceptron ∑ σ E ?0 0 ?1 0 ?2 0

CoreOS(RHCOS)机器上，主机名是通过 NetworkManager 设置的。默认情 况下，机器通过 DHCP 获取其主机名。如果主机名不是由 DHCP 提供，请通过内核参数或者其它方法进 行静态设置，请通过反向 DNS 查找获取。反向 DNS 查找在网络初始化后进行，可能需要一些时间来解 决。其他系统服务可以在此之前启动，并将主机名检测为 localhost 或类似的内容。您可以使用 DHCP 为 每个集群节点提供主机名来避免这种情况。 CoreOS(RHCOS)机器上，主机名是通过 NetworkManager 设置的。默认情 况下，机器通过 DHCP 获取其主机名。如果主机名不是由 DHCP 提供，请通过内核参数或者其它方法进 行静态设置，请通过反向 DNS 查找获取。反向 DNS 查找在网络初始化后进行，可能需要一些时间来解 决。其他系统服务可以在此之前启动，并将主机名检测为 localhost 或类似的内容。您可以使用 DHCP 为 每个集群节点提供主机名来避免这种情况。 return {'resources': resources} OpenShift Container Platform 4.13 安装 安装 1466 行静态设置，请通过反向 DNS 查找获取。反向 DNS 查找在网络初始化后进行，可能需要一些时间来解 决。其他系统服务可以在此之前启动，并将主机名检测为 localhost 或类似的内容。您可以使用 DHCP 为 每个集群节点提供主机名来避免这种情况。

基本不会用它。 Tanh激活函数：tanh是非常优秀的，几乎适合所有 场合。 ReLu激活函数：最常用的默认函数，，如果不确定 用哪个激活函数，就使用ReLu或者Leaky ReLu。 11 4.反向传播算法 ൡ ? ? ? ⟹ ? = ??? + ? ⟹ ? = ?(?) ⟹ ? ?, ? ൡ ? ? ? ⏟ ??=??⋅?,??=?? ⟸ ? = ??? + ? ⏟ ??= (?)=?′(?) ⟸ ) ? = ?(?) ⟸ ?(?, ? ⏟ ??= ? ??? ?,? =(−?log?−(1−?)log(1−?))′=−? ?+1−? 1−? 12 4.反向传播算法 因为 ??(?,?) ?? = ?? ?? = ( ?? ??) ⋅ ( ?? ??) 并且 ?? ?? = ? ⋅ (1 − ?)， 而 ??(?,?) ?? = ?? = ??(?,?) ?? = ?? ?? = ?? ?? ⋅ ?? ?? = (− ? ? + (1−?) (1−?)) ⋅ ?(1 − ?) = ? − ? 13 4.反向传播算法 第一步，计算?1 ሾ1], ?1 ሾ1] = ?1 ሾ1]?? + ?1 ሾ1]。 第二步，通过激活函数计算?1 ሾ1], ?1 ሾ1] = ?(?1 ሾ1])。 ?2

CoreOS(RHCOS)机器上，主机名是通过 NetworkManager 设置的。默认情 况下，机器通过 DHCP 获取其主机名。如果主机名不是由 DHCP 提供，请通过内核参数或者其它方法进 行静态设置，请通过反向 DNS 查找获取。反向 DNS 查找在网络初始化后进行，可能需要一些时间来解 决。其他系统服务可以在此之前启动，并将主机名检测为 localhost 或类似的内容。您可以使用 DHCP 为 每个集群节点提供主机名来避免这种情况。 CoreOS(RHCOS)机器上，主机名是通过 NetworkManager 设置的。默认情 况下，机器通过 DHCP 获取其主机名。如果主机名不是由 DHCP 提供，请通过内核参数或者其它方法进 行静态设置，请通过反向 DNS 查找获取。反向 DNS 查找在网络初始化后进行，可能需要一些时间来解 决。其他系统服务可以在此之前启动，并将主机名检测为 localhost 或类似的内容。您可以使用 DHCP 为 每个集群节点提供主机名来避免这种情况。 CoreOS(RHCOS)机器上，主机名是通过 NetworkManager 设置的。默认情 况下，机器通过 DHCP 获取其主机名。如果主机名不是由 DHCP 提供，请通过内核参数或者其它方法进 行静态设置，请通过反向 DNS 查找获取。反向 DNS 查找在网络初始化后进行，可能需要一些时间来解 决。其他系统服务可以在此之前启动，并将主机名检测为 localhost 或类似的内容。您可以使用 DHCP 为 每个集群节点提供主机名来避免这种情况。

CoreOS（RHCOS）机器上，主机名通过 NetworkManager 进行设置。默认 情况下，机器通过 DHCP 获取其主机名。如果主机名不是由 DHCP 提供，且通过内核参数静态设置，则 通过反向 DNS 查找来获取。反向 DNS 查找发生在网络在节点上初始化后，可能需要一些时间来解决。其 他系统服务可以在之前启动并检测主机名为 localhost 或类似主机。您可以使用 DHCP 为各个集群节点提 供主机名来避免这种情况。 CoreOS（RHCOS）机器上，主机名通过 NetworkManager 进行设置。默认 情况下，机器通过 DHCP 获取其主机名。如果主机名不是由 DHCP 提供，且通过内核参数静态设置，则 通过反向 DNS 查找来获取。反向 DNS 查找发生在网络在节点上初始化后，可能需要一些时间来解决。其 他系统服务可以在之前启动并检测主机名为 localhost 或类似主机。您可以使用 DHCP 为各个集群节点提 供主机名来避免这种情况。 CoreOS（RHCOS）机器上，主机名通过 NetworkManager 进行设置。默认 情况下，机器通过 DHCP 获取其主机名。如果主机名不是由 DHCP 提供，且通过内核参数静态设置，则 通过反向 DNS 查找来获取。反向 DNS 查找发生在网络在节点上初始化后，可能需要一些时间来解决。其 他系统服务可以在之前启动并检测主机名为 localhost 或类似主机。您可以使用 DHCP 为各个集群节点提 供主机名来避免这种情况。

油耗预测实战 6.9 参考文献 第 7 章 反向传播算法 7.1 导数与梯度 7.2 导数常见性质 7.3 激活函数导数 7.4 损失函数梯度 7.5 全连接层梯度 预览版202112 7.6 链式法则 7.7 反向传播算法 7.8 Himmelblau 函数优化实战 7.9 反向传播算法实战 7.10 参考文献 第 8 章 年~1982 年为人工 智能发展的第一次寒冬。 尽管处于 AI 发展的低谷期，仍然有很多意义重大的研究相继发表，这其中最重要的 成果就是误差反向传播算法(Back Propagation，简称 BP 算法)的提出，它依旧是现代深度学 习的核心理论基础。实际上，反向传播的数学思想早在 1960 年代就已经被推导出了，但是 并没有应用在神经网络上。1974 年，美国科学家 Paul Werbos 在他的博士论文中第一次提 lang=enview 预览版202112 第 1 章 人工智能绪论 6 1943 神经元模型 图灵测试 1950 1958 感知机模型 XOR异或问题 1969 1974 BP反向传播 Hopfield 网络 1982 1985 Boltzmann 机器 受限Boltzmann 1986 RNN 1986 1986 MLP 1990 LeNet 双向RNN 1997

CoreOS(RHCOS)机器上，主机名是通过 NetworkManager 设置的。默认情 况下，机器通过 DHCP 获取其主机名。如果主机名不是由 DHCP 提供，请通过内核参数或者其它方法进 行静态设置，请通过反向 DNS 查找获取。反向 DNS 查找在网络初始化后进行，可能需要一些时间来解 决。其他系统服务可以在此之前启动，并将主机名检测为 localhost 或类似的内容。您可以使用 DHCP 为 每个集群节点提供主机名来避免这种情况。 CoreOS(RHCOS)机器上，主机名是通过 NetworkManager 设置的。默认情 况下，机器通过 DHCP 获取其主机名。如果主机名不是由 DHCP 提供，请通过内核参数或者其它方法进 行静态设置，请通过反向 DNS 查找获取。反向 DNS 查找在网络初始化后进行，可能需要一些时间来解 决。其他系统服务可以在此之前启动，并将主机名检测为 localhost 或类似的内容。您可以使用 DHCP 为 每个集群节点提供主机名来避免这种情况。 CoreOS(RHCOS)机器上，主机名是通过 NetworkManager 设置的。默认情 况下，机器通过 DHCP 获取其主机名。如果主机名不是由 DHCP 提供，请通过内核参数或者其它方法进 行静态设置，请通过反向 DNS 查找获取。反向 DNS 查找在网络初始化后进行，可能需要一些时间来解 决。其他系统服务可以在此之前启动，并将主机名检测为 localhost 或类似的内容。您可以使用 DHCP 为 每个集群节点提供主机名来避免这种情况。

28 3.2.2. 替换 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29 3.3. 反向引用 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30 3.3.1. 括号嵌套怎么办？ 下面简单地说说每一章都讨论了什么？ 正则是匹配模式，要么匹配字符，要么匹配位置。 第一章和第二章以这个角度去讲解了正则表达式的基础。 在正则可以使用括号捕获数据，要么在 API 中进行分组引用，要么在正则里进行反向引用。 这是第三章的主题，讲解了正则表达式中括号的作用。 学习正则，是需要了解其匹配原理的。 第四章，讲解了正则表达式的回溯法原理。 另外在第六章最后一节，也讲解了正则的表达式的整体工作原理。 引用它。 引用某个分组，会有两种情形：在 JavaScript 里引用它，在正则表达式里引用它。 本章内容虽相对简单，但我也要写长点。 内容包括： • 分组和分支结构 • 分组引用 • 反向引用 • 非捕获括号 • 相关案例 3.1. 分组和分支结构 这二者是括号最直觉的作用，也是最原始的功能，强调括号内的正则是一个整体，即提供子表达式。 3.1.1. 分组 我们知道 /a+/

28 3.2.2. 替换 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 29 3.3. 反向引用 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30 3.3.1. 括号嵌套怎么办？ 下面简单地说说每一章都讨论了什么？ 正则是匹配模式，要么匹配字符，要么匹配位置。 第一章和第二章以这个角度去讲解了正则表达式的基础。 在正则可以使用括号捕获数据，要么在 API 中进行分组引用，要么在正则里进行反向引用。 这是第三章的主题，讲解了正则表达式中括号的作用。 学习正则，是需要了解其匹配原理的。 第四章，讲解了正则表达式的回溯法原理。 另外在第六章最后一节，也讲解了正则的表达式的整体工作原理。 引用它。 引用某个分组，会有两种情形：在 JavaScript 里引用它，在正则表达式里引用它。 本章内容虽相对简单，但我也要写长点。 内容包括： • 分组和分支结构 • 分组引用 • 反向引用 • 非捕获括号 • 相关案例 3.1. 分组和分支结构 这二者是括号最直觉的作用，也是最原始的功能，强调括号内的正则是一个整体，即提供子表达式。 3.1.1. 分组 我们知道 /a+/