Python JIT thautwarm The “Restrain” 目录 CONTENTS Preview 和其他JIT的比较 实现原理 如何参与开发 1 Preview 并行计算: SIMD并行, true threading 避开解释器开销: for-loop 避免嵌套函数开销: native function pointer, inline “All Add 2” restrain_jit/test/test_functional.py “All Add 2” JIT version: 局部函数无开销 “All Add 2” JIT using SIMD: “All Add 2” Benchmark: “All Add 2” Benchmark: Method Time Pure Python 7.71 JIT 0.089 JIT + SIMD SIMD 0.098 2 和其他JIT的比较 我们知道有Numba, hope JIT, Graal Python, 但Restrain 是不同的。 我把Restrain的特性称为“CPython Compatible” Working With Existing And Prospective C-Extensions 兼容C extensions, 尽管不能优化, 但可以做到调用的开销尽可能接近CPython

解放Python的 表达力，性能和安全性 Thautwarm 目录 CONTENTS 语法和语义扩展 JIT 静态类型 语法和语义扩展 表达力的扩展， 可用性的保留，白来的午餐？ 演示一小部分: 模式匹配, Quick Lambda, Pipe运算 语言决定思维模型 GNU-APL C++ Haskell 说 到 质 数 � 人 们 想 到 什 么 � 语言决定思维模型 Just In Time The Restrain Python JIT 为什么编译器从字节码开始着手? 栈机(stack machine)语义的优化问题？ Julia后端和Cython后端的差别？ 栈机到基于寄存器(register based)的 语义，控制流分析，SSA 和 Φ 节点和 栈机语义消除。 Cython JIT 基础架构。 为什么编译器从字节码开始着手? 因为运行时一旦开始你是拿不到源代码的。 来谈后端的问题。 Julia Cython 常见性能提升 100x 1-10x 小函数JIT 比Python慢1000倍 比Python快50% 启动时间 10s以上, “JAOT” 没有，调编译器快 循环折叠 有 有 Debug现场？ 每次打log等待30s 瞬秒(ms级) JIT 后端问题 同时， 由于Julia端目前固有的问题，不支持动态链接编译的 Python(例如Anaconda

COMPILER · JIT For PHP7 · Require Gcc 4.8 +(Global Register) · X86-32/64 Supported · Using Dynasm To Emitting Machine Codes(Mcode)[2] · Already Opened Source[3] BRAND NEW WAY Compiler JIT Type Inference opcache.jit=1 2 0 5 Use AVX JIT Strategy Register alloc JIT Level 0: JIT functions on load 1: JIT functions on execute 2: JIT most frequently called functions on first requrest 3: JIT functions functions after N calls or loop iterations 4: JIT functions with @jit annotation 0: JIT off 1: Minimal optimization 2: Basic optimization 3: optimize based on type-inference 4: optimize based on type-Inference

RN：虽然是Native渲染，但多了了 布局解析的性能损耗，⽽而且JS运⾏行行 效率太低。 WEB流 ⽅方案2 转化为Native渲染 Mono AOT ARM CODE IL JIT Mono C# c#：同时⽀支持JIT和AOT Xamarin：虽然性能好了了⼀一些，但是跨 平台的UI⽀支持不不好，⽆无法实现复杂的 UI布局。 编译流/虚拟机流 ⽅方案3 ⾃自⼰己负责渲染 Unity：虽然渲染性能很强⼤大，但渲染 dart：同时⽀支持JIT和AOT，性能⾼高 跨平台 性能 WebView Hybrid Native ReactNative Xamarin Flutter 跨平台 PC WEB Guangzhou 语⾔言 Dart语⾔言发布 2011.10 Dart1.0 2013.11 Dart2.0 2018.8 Dart2.1 2018.12 JIT：动态编译，Hot Android iOS Debug 22.28M 31M Release 3.46M 13.8M Flutter SDK Dart代码的构建产物 Native 代码 资源⽂文件 热更更新？ JIT 替换产物 ⽣生成js …. Flutter 已经把热更更新作为 接下来的重要特性在开发 ⼩小德-koudle @Tencent 我的Github： https://github.com/koudle

Everywhere) Good Performance ??? Good Performance ?? Good Performance ??? It’s OK ? ? JIT (Develop) / AOT (Deploy) JIT JIT JIT Amazing Ecosystem ?? ?? ? It’s OK ? ? ? Good Ecosystem ???? Good Ecosystem ??? 不支持类 JSX，可读性差 前端视角里的 Flutter 使用 Flutter 的刚性诉求 具有动态性 可连接前端生态 Dart 生产模式 开发 Develop 部署 Deploy JIT Dart VM Dart AOT Runtime AOT Any application that can be written in JavaScript, will eventually

类型检查。相反，该提案假定存在一个单独的第三方的类型检查器，用户可以自由 的使用这种检查器检查源码。本质上，这样的类型检查器可以充当非常强大的linter。 尽管用户可以在运行时采用类似的检查器来检查，或者通过这些类型元信息来做JIT 优化。但截止PEP484提出时，这些工具还尚未成熟。 PEP 526 – Syntax for Variable Annotations 尽管类型注释很有用，但是通过注释来标记类型这个实现有一些缺点： 每一个函数参数类型信 息并Apply。 以及隐患： 单元测试并不能完全的覆盖所有可能性，所有的分支不一定都能被执行到。 类型标注对JIT的影（增）响（强） 编译时（Compile-time）能拿到的信息越多，生成的代码质量越高。 对于动态语言的JIT，某种方法便是针对每个入过参的参数类型都Cache（生成Native Code） 一次。 加入类型注释后，可以明确的规定为哪些类型生成Native Native Code。 对于Final的变量，我们能够消除反射。使用更多的Final能有效提高性能。 特殊的类型标记与JIT协同。 类型错误与提前截断。 感谢对我提供帮助的—— @thautwarm @manjusaka @himself65 ?扩散性百万甜面包 @icey ?锤鸽 @LemonHX ?柠檬浣熊 @Zwliuust THANK YOU IndexLib lyzh流云坠海

•iOS系统无法在运行时将内存页 标记为可执行 Android构建产出 iOS构建产出 Dart Project Android终端 iOS终端 应用更新 动态更新 •下发JIT编译产出 •牺牲性能 •仅适用于体验要求不高页面 JIT构建产出 JIT构建产出 Dart Project Android终端 iOS终端 应用更新 三端统一 •一份Dart代码 •统一三端开发 WEB iOS Android

������! 91 ����������� TMS! WMS! HTS! VIS! ���! MP! JIT! ��! ��! ��! ���� �JOB� ���! MP! JIT! ��! ��! ��! ����� �JOB� ���! MP! JIT! ��! ��! ��! ������ �JOB� ���� ��! ���� �� 92

J2SE J2ME J2EE 标准版，开发适用于PC上运行的程序 微缩版，开发适用于手机等嵌入式设备的程序 企业版，开发适用于服务器端的程序 引入内部类和即时编译（Just-In-Time,JIT）技术 引入Swing 2000.5 2002.2 2004.10 2006.11 J2SE1.3 J2SE1.4 J2SE1.5 J2SE5.0 JavaSE6.0 支持XML，采用新的虚拟机Hotspot Linux JVM Mac 将程序代码从一种指令转换为另一种指令 解释器将字节码指令逐条解释成所在底层平台 能够处理的指令格式，解释一条执行一条 JIT, Just-In-Time 传统解释器的解释执行是转换一条，运行完后就将其扔掉；JIT 会自动检测指令的运行情况，并将使用频率高（如循环运行）的指令解释后保存下来， 下次调用时就无需再解释（相当于局部的编译执行），显著提高了 Java 的运行效率。

Inference . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1174 JIT Code Generation . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1175 Julia 的运作方式后，写出和 C 一样快的代码对你而言就是小菜一碟。 Julia 拥有可选类型标注和多重派发这两个特性，同时还拥有很棒的性能。这些都得归功于使用 LLVM 实现的类型推导和即时编译（JIT）技术。Julia 是一门支持过程式、函数式和面向对象的多范式语言。 它像 R、MATLAB 和 Python 一样简单，在高级数值计算方面有丰富的表现力，并且支持通用编程。为 了实现这个目标，Julia S<:Real where T。 13.4 重定义方法 当重定义一个方法或者增加一个方法时，知道这个变化不会立即生效很重要。这是 Julia 能够静态推 断和编译代码使其运行很快而没有惯常的 JIT 技巧和额外开销的关键。实际上，任意新的方法定义不 会对当前运行环境可见，包括 Tasks 和线程（和所有的之前定义的 @generated 函数）。让我们通过一 个例子说明这意味着什么： julia>