TypeScript 类型系统 2 0 2 1 年 1 月 2 1 日 分 享 人 陈 文 岗 ： 学 校 中国科学院大学 ： 关于TypeScript 2 TypeScript是微软推出的JavaScript静态类型版本，它是 JavaScript的超集，可以编译为纯粹的JavaScript TypeScript 到 JavaScript 3 add.ts add.js add ts TypeScript 基础类型 4 TypeScript 高级类型 5 TypeScript 高级类型 6 TypeScript 高级类型 7 TypeScript 高级类型 8 TypeScript 特殊类型 9 TypeScript 结构类型系统 10 标明类型系统 即使两个类的结构完全一致，也不能互相赋值 结构类型系统 类型形状一致即可互相赋值 TypeScript TypeScript 类型声明空间 11 类型声明空间里包含用来当做类型注解的内容 类型不能赋给一个变量，也不能作为值进行传递（class除外） TypeScript 变量声明空间(值空间) 12 变量声明空间包含可用作变量的内容 class既属于类型声明空间，也属于变量声明空间 普通的变量/常量不能用作类型注解 TypeScript 函数重载 13 1. TypeScript类型信息只存在于编译期，不会带到运行期

静态类型的Python Lyzh（刘知杭） 目录 CONTENTS 有关类型的概念 使用mypy对Python源 代码进行静态分析 代数数据类型 拓展知识 关于类型的一些基本概念 有类型不等于有类型系统 动态语言类型化的必要性 不久前的一个案例 正文 类型的概念 CPython定义了PyObject这个 结构体作为对象头。 CPython中的类型，是指在对 象头中指向类型元信息的指针。 象头中指向类型元信息的指针。 CPython有类型，但CPython没有类型系统。这就是CsPython中诸多问题的由来。 类型系统是什么？ 类型系统(type system)的基本目标是防止程序在运行时发生类型错误。当且仅当语言运行时 不存在任何形式的类型错误，那么它就是sound的。soundness是类型系统研究的重要目标。 类型系统（type system）是一种编译期（Compile-time）的类型推导检查规则。 ime）的类型推导检查规则。 类型系统就是一种轻量级的形式化方法，它通常被植入编译器或程序分析器中进行自动校验。 从而让那些不熟悉底层理论的程序员也可以使用它们。 这类轻量级技术中还包括模型检测（Model checking），运行时验证（Runtime verification）和类型系统（Type system）等等。其中类型系统最流行，发展最完善。 在计算机科学中，形式化方法（Formal

基本数据类型 主讲人：龙良曲 All is about Tensor python PyTorch Int IntTensor of size() float FloatTensor of size() Int array IntTensor of size [d1, d2 ,…] Float array FloatTensor of size [d1, d2, …] string

现代编程思想 多元组，结构体与枚举类型 Hongbo Zhang 1 基础数据类型：多元组与结构体 2 回顾：多元组 多元组：固定⻓度的不同类型数据的集合 定义： (<表达式>, <表达式>, ...) 类型： (<表达式类型>, <表达式类型>, ...) 例如： 身份信息： ("Bob", 2023, 10, 24): (String, Int, Int, Int) 成员访问： (2023, 10, 24).0 == 2023 列表：任意⻓度的相同类型数据的集合 例如： 字符的序列： Cons('H', Cons('i', Cons('!', Nil))) Cons ： construct 的缩写 3 笛卡尔积 ⼀个多元组类型的元素即是每个组成类型的元素构成的有序元素组 集合的笛卡尔积，⼜称积类型 例：扑克牌的所有花⾊：{ } 4 结构体 元组的问题在于，难以理解其所代表的数据 address: String; postal: Int } 通过名称，我们能明确数据的信息以及对应字段的含义 5 结构体的定义 结构体的定义形如 struct <结构体名称> { <字段名>: <类型> ; ... } struct PersonalInfo { name: String; age: Int} 定义结构体的值时，形如 { <字段名>: <值> , ... } let info:

B-Tree：适合顺序访问，利于硬盘存储数据 R-Tree：存储空间⼏何结构 …… 8 数据结构：⼆叉树 ⼆叉树要么是⼀棵空树，要么是⼀个节点；它最多具有两个⼦树：左⼦树与右⼦树 叶节点的两个⼦树都是空树 基于递归枚举类型的定义（本节课默认存储数据为整数） 1. enum IntTree { 2. Node(Int, IntTree, IntTree) // 存储的数据，左⼦树，右⼦树 3. Empty 4

现代编程思想 函数, 列表与递归 Hongbo Zhang 1 基本数据类型：函数 2 函数 在数学上，描述对应关系的⼀种特殊集合 对于特定的输⼊，总是有特定的输出 在计算机中，对相同运算的抽象，避免⼤量重复定义 计算半径为1的圆的⾯积： 3.1415 * 1 * 1 计算半径为2的圆的⾯积： 3.1415 * 2 * 2 计算半径为3的圆的⾯积： 3.1415 * 3 * radius } 2. let result = (area(1.0), area(2.0), area(3.0)) 4 顶层函数的定义 fn <函数名> (<参数名>: <类型>, <参数名>: <类型>, ...) -> <类型> <表达式块> 定义的函数接⼝让其他使⽤者⽆需关注内部实现 1. fn one () -> Int { 2. 1 3. } 4. 5. fn add_char(ch: 当函数定义后，可以通过 <函数名>(<表达式>, <表达式>……) 的⽅式应⽤函数 one() add_char('m', "oonbit") 应⽤函数时，表达式与函数定义时的参数数量应当相同，且类型⼀⼀对应 这是错误的： add_char("oonbit", 'm') 计算应⽤函数的表达式时 从左到右计算定义了参数的表达式的值 替换函数内部参数 简化表达式 6 函数的应⽤与计算

(branches) (代表测试结果) 叶节点 (leaf node) (代表分类后所获得的分类标记) ⚫ 决策树算法是一种归纳分类算法 ，它通过对训练集的学习，挖掘 出有用的规则，用于对新数据进 行预测。 ⚫ 决策树算法属于监督学习方法。 ⚫ 决策树归纳的基本算法是贪心算法 ，自顶向下来构建决策树。 ⚫ 贪心算法：在每一步选择中都采取 在当前状态下最好/优的选择。 ⚫ 在决策树的生成过程中，分割方法 不支持 不支持 不支持 C4.5 分类 多叉树 信息增益率 支持 支持 支持 不支持 CART 分类 回归 二叉树 基尼指数 均方差 支持 支持 支持 支持 1.决策树原理 决策树的三种基本类型 建立决策树的关键，即在当前状态下选择哪个属性作为分类依据。根据不同 的 目 标 函 数 ， 建 立 决 策 树 主 要 有 一 下 三 种 算 法 ： ID3(Iterative Dichotomiser)、C4 Quinlan）于1975年提出的一种决策树 构建算法，算法的核心是“信息熵”，期望信息越小，信息熵越大，样 本纯度越低。。 ⚫ ID3 算法是以信息论为基础，以信息增益为衡量标准，从而实现对数据 的归纳分类。 ⚫ ID3 算法计算每个属性的信息增益，并选取具有最高增益的属性作为给 定的测试属性。 ID3 算法 10 2.ID3算法 ID3 算法 其大致步骤为： 1. 初始化特征集合和数据集合；

器的多特征因子（模型 pCTR 预估值、隐层表征）进行融合： 算法 < 41 图 3 多层级多因子模型融合 具体地，如上图 3 所示。第一层级的目的是构建出有差异性的单个模型，主要通过不 同类型的模型在用户最近行为、全部行为数据以及不同特征集合上分别进行训练，来 产生差异性。第二层级则通过不同单个模型的组合进一步产生差异性，差异性的提升 来源于两个方面，分别是模型组合方式的不同（用不同模型，根据单模型特征进行打 多类别层次化图模型优化： （1）候选图模型的生成：现实世界中的图通常是多种属性的组合，这些属性信息很难 只用一种方法捕捉完全，因此，我们使用了基于谱域、空域、Attention 机制等多种 不同类型的模型来捕捉多种属性关系。不同模型在不同数据集上效果差异较大，为了 防止后续模型融合时加入效果较差的模型，会对 GCN、GAT、APPNP、TAGC、 DNA、GraphSAGE、GraphMix、Grand、GCNII （1）完善支持当前流行的图神经网络模型。 从图本身的类型来看，图神经网络模型可以分为同质图 (Homogeneous Graph)、 异质图 (Heterogeneous Graph)、动态图 (Dynamic Graph) 等类型。从训练方式 来看，又可以分为全图消息传递 [4] 和基于子图采样的消息传递 [8] 等类型。从推理方 式来看，还可以分为直推式和归纳式 [9]。 除此之外，下游任务除了经

，那他可能会开始有 Hallucination（幻觉）。但如果我们能够把搜索的结果，或者很多个⼈⽂档、公司⽂档作为上下⽂的 话，它就可以极⼤程度的降低幻觉，因为所有的信息都可以从⽂档⾥⾯被提取和归纳。 现在很多⼤模型的开发者也⾯临这样的问题，你可能⽤了⾃⼰的专有数据，我也调了⼀个模型，但如 果你的基座模型升级了，你可能所有的这些微调都⽩费了。 所以，我们认为⻓⽂本是接下来会取代微调的⼀种 nAI很接近，但产品的出发点可能会决 定了它在这个领域⾥专业化的位置。 通⽤⼈⼯智能会存在技术⻔槛，这个世界上只会有少数的通⽤⼈⼯智能公司，但每个跨过⼀定技术⻔ 槛的公司可以在某些具体的场景或类型的智能上有专业化优势，并在这些领域做得⽐其他公司更好， 最终形成⼀些⽹络效应。因此，未来并不会只有⼀家AI公司能包办所有的智能。
机器之⼼:
你有没有想过，可能我们永远⽆法追赶上
杨植麟： ⾏业⼤模型的唯⼀优势也就是专有数据壁垒最终会被打破，因此我认为不是⼀个可持续性的东西，最 终肯定不是靠专有数据壁垒，⽽是靠销售渠道或者提供更好的定制服务。 但不同的通⽤⼤模型之间的分化是有可能的。这由你的产品的起点决定，通过对不同类型的⽤⼾的吸 引，吸收他们所供应的数据，让模型在哪些⽅⾯更强。 机器之⼼：作为⼀个在业内评价较⾼的⼈，⼤家对你寄托的期望是否给你带来了压⼒？ 杨植麟：我更多的是感到兴奋，因为我觉得能有机会做这个事情本⾝就很幸运，我对这个机会充满了

01 背景知识 02 模型介绍 04 模型的缺点与改进 05 模型的代码实现 28 ViT缺点 Vision Transformer比CNN具有更少的图像特异性归纳偏差。 在CNN中，局部性、二维邻域结构和平移等方差被融入到整个模型的每一层中。 在ViT中，只有MLP层是局部的、平移等变的，而自注意层是全局的。 二维邻域结构的使用非常少：在模型的开始通过 image_size：int 类型参数，图片大小。 如果您有矩 形图像，请确保图像尺寸为宽度和高度的最大值 patch_size：int 类型参数，patches数目。 image_size 必须能够被 patch_size整除。 num_classes：int 类型参数，分类数目。 dim：int 类型参数，线性变换nn.Linear(..., dim)后输 出张量的尺寸 。 depth：int 类型参数，Transformer模块的个数。 类型参数，Transformer模块的个数。 heads：int 类型参数，多头注意力中“头”的个数。 mlp_dim：int 类型参数，多层感知机中隐藏层的神经 元个数。 channels：int 类型参数，输入图像的通道数，默认为 3。 dropout：float类型参数，Dropout几率，取值范围为 [0, 1]，默认为 0.。 emb_dropout：float类型参数，进行Embedding操作 时Dropout几率，取值范围为[0