## PyTorch ## 激活函数及其梯度 主讲人：龙良曲 ## Activation Functions  PITTS WITH LETTVIN: Pitts with Jerome Lettvin and one subject

## PyTorch ## 常见函数梯度 主讲人：龙良曲 ## Common Functions |Common Functions|Function|Derivative| |---|---|---| |Constant|c|0| |Line|x|1| ||ax|a| |Square|$ x^{2} $|2x| |Square Root|$ \\sqrt{x} $|$ (\\frac{1 w^{2}+b^{2} $$ $$ xe^{w}+e^{b} $$ $$ [y-(xw+b)]^{2} $$ $$ \mathbf{y}\log(x w+b) $$ ## 下一课时 什么是激活函数 ## Thank You

## 函数计算在双11小程序场景中的应用  吴天龙 阿里云函数计算技术专家  PPT ## 自我介绍 • 吴天龙（花名：木吴） · 阿里云函数计算技术专家 - 2013 年加入阿里云，参与分布式数据库，对象存储等产品的开发。现任阿里云函数计算架构师，聚焦于 Serverless 产品功能在大规模资源伸缩调度、性能优化等系统核心能力的研发。 ## 目录 ✿ 函数计算介绍 技术挑战 ✿ Demo ## 函数计算-介绍 - 通用Serverless计算平台 · 与云端事件源无缝集成 /7/1817bd4d19cae2c9c62d57f47d0f801d/p4_5.jpg) 石墨文档 | 文档实时协同办公-石墨文档 ## 函数计算-介绍 函数计算组件 CLI/SDK/Web Console 依赖的阿里云服务 创建/删除函数 请求调用 负载均衡 同步请求调用 异步请求调用 控制类操作 对象存储（代码） ![Image](/uploads/document

## PyTorch ## 激活函数与GPU加速 主讲人：龙良曲   ![Ima

CHINA PHP基本语法 PHPCHINA! HAPPY PHPING PHPCHINA.COM —条件、循环、函数 杨亮 ## 程序的基本结构 程序 运算（+ - x / & | ! ..） 输入 逻辑（条件、循环、递归） 输出 辅助（变量、数组、函数） 小测验 用你熟悉的程序找出 1~1000中的所有质数 ## 我们直接看代码好了 '; } if ($totalqty PHP中的代码重用 - 将其他文件中的html或者php代码引入到本文件 • require()与include(); • require_once()与include_once(); - 可以引入其他的函数库，或者代码片段 1 '; 4 h> ## 为什么自己写有函数 • 代码的可读性 • 代码的可重用性 - 实现功能的模块化 - 实现递归调用  • 使变量名不至于太长（作用域） ## PHP中的函数 ![Image](/uploads/do

现代编程思想 案例：自动微分 Hongbo Zhang ## 微分 • 微分被应用于机器学习领域 ◦ 利用梯度下降求局部极值 牛顿迭代法求函数解： $ x^{3}-10x^{2}+x+1=0 $ • 我们今天研究简单的函数组合 ○ 例： $ f(x_{0},x_{1})=5x_{0}^{2}+x_{1} $ ■ $ f(10,100)=600 $ ■ $ \frac{\partial a4eebc071a0cd81c52bca/p11_2.jpg) ## 微分 • 微分被应用于机器学习领域 ◦ 利用梯度下降求局部极值 牛顿迭代法求函数解： $ x^{3}-10x^{2}+x+1=0 $ • 我们今天研究简单的函数组合 ○ 例： $ f(x_{0},x_{1})=5x_{0}^{2}+x_{1} $ ■ $ f(10,100)=600 $ ■ $ \frac{\partial \frac{\partial f}{\partial x_{0}}(10,100)=100 $ ■ $ \frac{\partial f}{\partial x_{1}}(10,100)=1 $ ## 微分 • 函数微分的几种方式 ☐ 手动微分：纯天然计算器 ■ 缺点：对于复杂表达式容易出错 ○ 数值微分： $ \frac{f(x+\delta x)-f(x)}{\delta x} $ ■ 缺点：计算

## 可组合的 Vue Composable Vue, 编写可组合可复用的 Vue 函数的最佳实践与技巧 ANTHONY FU Hangzhou, China 2021 ## Anthony Fu Vue 核心成员 / Vite 团队成员 VueUse, Slidev, Type Challenges 等项目创作者 全职开源 antfu antfu7 知 Anthony Fu antfu 有限的类型支持 按 API 类型组织 组合式 API 提供的能力 ■ 极易复用 (原生 JS 函数) ■ 可灵活组合 (生命周期钩子可多次使用) 提供更好的上下文支持 更好的 TypeScript 类型支持 按功能/逻辑组织 ■ 可独立于 Vue 组件使用 ## 什么是可组合的函数 可复用逻辑的集合，专注点分离 export function useDark(options: UseDarkOptions 组合关系 useLocalStorage useStorage useDark useEventListener usePreferredDark useMediaQuery ■ 其中每一个函数都可以独立使用 ☑ 专注点分离 ## 建立"连结"模式 不同于 React，Vue 的 `setup()` 只是在组件建立时执行一次，并建立数据与逻辑之间的连结。 ■ 建立输入

现代编程思想 # 函数, 列表与递归 Hongbo Zhang 基本数据类型：函数 ## 函数 - 在数学上，描述对应关系的一种特殊集合。对于特定的输入，总是有特定的输出 - 在计算机中，对相同运算的抽象，避免大量重复定义 ○ 计算半径为1的圆的面积： $ 3.1415 \times 1 \times 1 $ ○ 计算半径为2的圆的面积： $ 3.1415 \times 2 \times 计算半径为3的圆的面积： $ 3.1415 \times 3 \times 3 $ ○ ..... fn 面积(半径: Double) -> Double { 3.1415 * 半径 * 半径 } ## 函数 • 计算半径为1、2、3的圆的面积： 1. let surface_r_1: Double = { let r = 1.0; pi * r * r } 2. let surface_r_2: Double surface_r_2, surface_r_3) • 使用函数后 1. fn area(radius: Double) -> Double { pi * radius * radius } 2. let result = (area(1.0), area(2.0), area(3.0)) ## 顶层函数的定义 fn <函数名>（<参数名>：<类型>，&

现代编程思想 # 泛型与高阶函数 Hongbo Zhang ## 设计良好的抽象 - 软件工程中，我们要设计良好的抽象 - 当代码多次重复出现 ☐ 当抽出的逻辑具有合适的语义 - 编程语言为我们提供了各种抽象的手段 - 函数、泛型、高阶函数、接口..... ## 泛型函数与泛型数据 ## 堆栈 - 栈是一个由一系列对象组成的一个集合，这些对象的插入和删除遵循后进先出原则（Last ## • 我们希望存储很多很多类型在堆栈中 ☐ 每个类型都要定义一个对应的堆栈吗？ ☐ IntStack 和 StringStack 似乎结构一模一样? ## 泛型数据结构与泛型函数 ## - 泛型数据结构与泛型函数以类型为参数，构建更抽象的结构 1. enum Stack[T] { 2. Empty 3. NonEmpty(T, Stack[T]) 4. } 5. fn Stack::empty[T]() => (Some(top), rest) 11. } 12. } • 将 T 替换为 Int 或 String 即相当于 IntStack 与 StringStack ## 泛型数据结构与泛型函数 • 我们用 <类型1>，<类型2>， $ \ldots $ 来定义泛型的类型参数 enum Stack[T]{ Empty; NonEmpty(T, Stack[T])

PyTorch入门 黄海广 副教授 2022年03月 ## 本章目录 01 Tensors张量 02 Autograd自动求导 03 神经网络 04 训练一个分类器 ### 1. Tensors张量 ## 01 Tensors张量 02 Autograd自动求导 03 神经网络 04 训练一个分类器 ### 1. Tensors张量的概念 Tensor实际上就是一个多维数组（multidimensional cpu_tensor.numpy() 注意： - GPU tensor不能直接转为numpy数组，必须先转到CPU tensor。 - 如果tensor是标量的话，可以直接使用 item() 函数（只能是标量）将值取出来：loss_output.item() ### 1. Tensors张量的概念 ## • Tensor与NumPy的异同 |对比项|NumPy|Tensor| |---|---|---| type()。但是更加推荐采用x.type()（这种方式能看到更具体信息）5、tensor含义device（是否使用GPU）,requires\_grad(是否需要求导)等设置参数。| ### 1. Tensors张量的概念 ## • Tensor与NumPy的函数对比

0 码力 | 40 页 | 1.64 MB | 2 年前

3

共 1000 条

• 1
• 2
• 3
• 4
• 5
• 6
• 100

前往

页

相关搜索词

激活函数sigmoidReLUtanhPyTorch常见函数梯度导数线性回归损失函数函数计算冷启动优化小程序场景预留实例按量实例GPU加速MLP优化器条件循环函数变量数组自动微分符号微分数值微分函数求导梯度下降组合式 APIVue可复用函数VueUseAnthony Fu递归列表模式匹配部分函数泛型高阶函数函数式编程数据结构抽象设计张量自动求导神经网络全连接层

操作类别	Numpy	PyTorch