MLP反向传播推导
0 码力 | 15 页 | 940.28 KB | 1 年前3现代C++ 教程:高速上手C++11/14/17/20
结构化绑定 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 2.3 类型推导 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 auto . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20 尾返回类型推导 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 21 decltype(auto) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28 非类型模板参数推导 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28 2.6 面向对象 . . . .0 码力 | 83 页 | 2.42 MB | 1 年前3跟我一起写 Makefile (PDF 重制版)
中使用变量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 2.5 让 make 自动推导 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 2.6 makefile 的另一种风格 介绍 , 发行版本 1.0 关于变量更多的话题,我会在后续给你一一道来。 2.5 让 make 自动推导 GNU 的 make 很强大,它可以自动推导文件以及文件依赖关系后面的命令,于是我们就没必要去在 每一个 .o 文件后都写上类似的命令,因为,我们的 make 会自动识别,并自己推导命令。 只要 make 看到一个 .o 文件,它就会自动的把 .c 文件加在依赖关系中,如果 make make 找到一个 whatever.o ,那么 whatever.c 就会是 whatever.o 的依赖文件。并且 cc -c whatever.c 也会被推导 出来,于是,我们的 makefile 再也不用写得这么复杂。我们的新 makefile 又出炉了。 objects = main.o kbd.o command.o display.o \ insert.o search.o files0 码力 | 81 页 | 628.51 KB | 1 年前3C++高性能并行编程与优化 - 课件 - 03 现代 C++ 进阶:模板元编程
调用时 twice即可将 T 替换为 int 。 • 注意有的教材上写做: • template • 是完全等价的,只是个人喜好不同。 模板函数:自动推导参数类型 • 那这样需要手动写 , 用起 来还不如重载方便了? • 别担心, C++ 规定: • 当模板类型参数 T 作为函数参数时,则可 以省略该模板参数。自动根据调用者的参 模板具有惰性、多次编译的特点 • 这下基本学废!接下来看自动类型推导。 为什么需要自动类型推导( auto ) 没有 auto 的话,需要声明一个变量,必须重复一遍他的类型,非常麻烦 : 自动类型推导:定义变量 因此 C++11 引入了 auto ,使用 auto 定义的变量,其类型会自动根据等号右边的值来确定 : 自动类型推导:一些局限性 • 不过 auto 也并非万能,他也有很多限制。 而且,类成员也不可以定义为 auto : 自动类型推导:函数返回值 • 除了可以用于定义变量,还可以用作函数的返回类型: • 使用 auto 以后,会自动被推导为 return 右边的类型。 • 不过也有三点注意事项: 1. 当函数有多条 return 语句时,所有语句的返回类型必须一致,否则 auto 会报错。 2. 当函数没有 return 语句时, auto 会被推导为 void 。 3. 如果声明和实现分离了,则不能声明为 0 码力 | 82 页 | 12.15 MB | 1 年前3【PyTorch深度学习-龙龙老师】-测试版202112
础要求较少的,读者在学习本书的过程中会自然而然地了解算法的相关背景知识,体会到知 识是为了解决问题而生的,避免陷入为了学习而学习的窘境。 尽管作者试图将读者的基础要求降到最低,但是人工智能不可避免地需要使用正式化的 数学符号推导,其中涉及到少量的概率与统计、线性代数、微积分等数学知识,一般要求读 者对这些数学知识有初步印象或了解即可。比起理论基础,读者需要有少量的编程经验,特 别是 Python 语言编程经验,显得更加重要 ,这其中最重要的 成果就是误差反向传播算法(Back Propagation,简称 BP 算法)的提出,它依旧是现代深度学 习的核心理论基础。实际上,反向传播的数学思想早在 1960 年代就已经被推导出了,但是 并没有应用在神经网络上。1974 年,美国科学家 Paul Werbos 在他的博士论文中第一次提 出可以将 BP 算法应用到神经网络上,遗憾的是,这一成果并没有获得足够重视。直至 1986 PyTorch 提供的自动求导的功能,不需要手动推导,就可计算输出对网 络参数的偏导数。考虑如下函数的表达式: = ?? + ?? + ? 输出 对于变量?的导数关系为: d d? = 2?? + ? 考虑在(?, ?, ?, ?) = (1,2,3,4)处的导数,代入上式可得 d? d? = 2 ∙ 1 ∙ 4 + 2 = 10。因此通过手 动推导的方式计算出 d? d?导数值为0 码力 | 439 页 | 29.91 MB | 1 年前3Go 2 Generics? A (P)review
关键设计 ● 在标识符后使用 (t) 作为类型参数的缺省值,语法存在二义性 ○ 既可以表示使用 类型参数 Greater(t),也可以表示实例化一个 具体类型 Greater(t),其中 t 为推导的具体类型,如 int ○ 为了解决二义性,使用 type 进行限定:Vector(t type) func F(arg0, arg1 t type) t { … } ● 使用接口 Greater(t) ● 使用 gen [T] ( … ) 来传播类型参数的名称 ● 使用类型推导来进行约束 评述 ● 语法相对简洁了许多 ● 利用类型推导的想法看似很巧妙,但能 够实现吗? ● gen [T] ( … ) 引入了作用域的概念 ○ 缩进? ○ 如何快速定位作用域在何 时结束? ● 企图通过实例化过程中类型推导来直接进行约束,可能 吗? ● 出现多个参数时,应该选取哪个参数进行约束? ● 如果一个类型不能进行 > 将怎么处理? ● arg0/arg1 同 T 为什么推导为不同类型? 2020 © Changkun Ou · Go 夜读 · Go 2 Generics? A (P)review Type Parameters (Dec. 2013) by Ian Lance Taylor 12 1 type [T] Greater interface { 20 码力 | 41 页 | 770.62 KB | 1 年前3Rust 语言学习笔记
&str 类型的参数(x 为对某个 string 类型资源 Something 的借用),并返回对资源 Something 的一个新的借用。 实际上,上面函数包含隐性的生命周期命名,这是由编译器自动推导的,相当 于: fn foo<'a>(x: &'a str) -> &'a str { x } 3.4 高级所有权 前面三小节未大量涉及到关于所有权中的比较高级用法。 标注了返回的引用值,所以返回的引用 值就能保证在 x 和 y 中较短的那个生命周期结束之前保持有效。 要推导 Lifetime 是否合法,先明确两点: 1.输出值(也称为返回值)依赖哪些输入值 2.输入值的 Lifetime 大于或等于(可能依赖的输出值)的 Lifetime (准确来 说:子集,而不是大于或等于) Lifetime 推导公式: 当输出值 R 依赖输入值 X Y Z ...,当且仅当输出值的 Lifetime else { y } } 这里我们根据公式继续推导: 条件:Lifetime(x) ⊆ Lifetime(y) 推导:Lifetime(返回值) ⊆ ( Lifetime(x) ∩ Lifetime(y) ) 即: 条件: 'a ⊆ 'b 推导:'a ⊆ ('a ∩ 'b) // 成立 上面是成立的,所以可以编译通过。0 码力 | 117 页 | 2.24 MB | 1 年前3机器学习课程-温州大学-09机器学习-支持向量机
,其他点到超平面的距离大于 ?。 于是我们有这样的一个公式:故:൞ ?T?+? ∥?∥ ≥ ? ? = 1 ?T?+? ∥?∥ ≤ −? ? = −1 我们暂且令?为 1(之所以令它等于 1,是为了方便推导和优化 ,且这样做对目标函数的优化没有影响), 将两个方程合并,我们可以简写为: 至此我们就可以得到最大间隔超平面的上下两个超平面: ?(?T? + ?) ≥ 1 9 2.线性可分支持向量机 T?? + ?) + 1 ≤ 0, ? = 1,2, . . , ? 整合成:?(?, ?, ?) = 1 2 ||?||2 + σ?=1 ? ?? (−??(?T?? + ?) + 1) 推导: 根据Karush-Kuhn-Tucker(KKT)条件: ? ?? ?(?, ?, ?) = ? − ?=1 ? ?? ???? = 0, ? = ?=1 ? ?? ?? 在低维空间计算获得高维空间的计算结果,满足高维,才能在高维下线性可分。 我们需要引入一个新的概 念:核函数。它可以将样本从原始空间映射到一个更高维的特质空间中,使得样本在新的空间中线性可分 。这样我们就可以使用原来的推导来进行计算,只是所有的推导是在新的空间,而不是在原来的空间中进 行,即用核函数来替换当中的内积。 4.线性不可分支持向量机 线性不可分 高维下线性可分 23 核技巧 用核函数来替换原来的内积。 4.线性不可分支持向量机0 码力 | 29 页 | 1.51 MB | 1 年前3python3学习手册
__future__ import absolute_import py2引入包时,直接从当前目录引入;py3默认从环境变量引入 ★第4章、python推导式 推导式表示从一个数据序列构建成另一个新的数据序列 ① list推导式 newlist=[表达式 for 变量 in 源列表 if 条件] #直接返回list类型 例: names=["abc", "xd�l" len(name) >3 ] ② dic�onary推导式 newdic={ key表达式: value表达式 for 变量 in 列表 if 条件} #直接返回 dic�onary ③ set集合推导式 newset={表达式 for 变量 in 列表/元组} #直接返回set ④ tuple元组推导式 newtuple=(表达式 for 变量 in 列表) 列表) #直接返回的是生成器对象, 不是tuple 例: xx=tuple( x for x in range(1,10) ) # tuple(推导式) 可得元组 ★第5章、函数def ★定义函数 def fun_name(参数): "描述" 语句 return xx #若未指定return,则默认返回None0 码力 | 213 页 | 3.53 MB | 1 年前3DeepSeek从入门到精通(20250204)
言处理,而不强 调深度推理能力。此类模型通常通过对大量文本数据的训练,掌握语言规律并能够生成合适的内容,但缺乏像 推理模型那样复杂的推理和决策能力。 维度 推理模型 通用模型 优势领域 数学推导、逻辑分析、代码生成、复杂问题拆解 文本生成、创意写作、多轮对话、开放性问答 劣势领域 发散性任务(如诗歌创作) 需要严格逻辑链的任务(如数学证明) 性能本质 专精于逻辑密度高的任务 擅长多样性高的任务 提示语侧重点 示例(有效提示) 需避免的提示策略 数学证明 推理模型 直接提问,无需分步引导 “证明勾股定理” 冗余拆解(如“先画图,再列公式”) 通用模型 显式要求分步思考,提供示例 “请分三步推导勾股定理,参考: 1. 画直角三角形…” 直接提问(易跳过关键步骤) 创意写作 推理模型 鼓励发散性,设定角色/风格 “以海明威的风格写一个冒险故事” 过度约束逻辑(如“按时间顺序列出”) 目标 + 选项 + 评估标准 要求逻辑推演和量化分析 直接建议,依赖模型经验归纳 2. 分析需求 需深度理解数据/信息、 发现模式或因果关系 问题 + 数据/信息 + 分析 方法 触发因果链推导与假设验 证 表层总结或分类 3. 创造性需求 需生成新颖内容(文本/ 设计/方案) 主题 + 风格/约束 + 创新 方向 结合逻辑框架生成结构化 创意 自由发散,依赖示例引导0 码力 | 104 页 | 5.37 MB | 7 月前3
共 200 条
- 1
- 2
- 3
- 4
- 5
- 6
- 20