第三届中国Rust开发者大会 组件化驱动、ROM运行环境与RustSBI 洛佳 华中科技大学 网络空间安全学院 2023年6月 本次演讲…… 关于我…… • 笔名洛佳 • 华中科技大学网络空间安全学院研一 在读（导师：周威老师） • 研究方向：物联网安全、系统安全 • 热爱开源，乐于尝试新技术 • RustSBI项目维护者 • 致力于向科研、教学和产业界推广 Rust语言 基地址结合，高灵活性；一次开发，同时 复用于嵌入式、固件和内核中。 # 组件化驱动 合理利用嵌入式、桌面和服务器芯片片内 ROM代码，构造零开销的运行环境。进一 步地，可完成安全引导、安全镜像分发和 通常的嵌入式开发等功能。 # ROM运行环境 # 2023年的RustSBI 作为RISC-V SBI固件的RustSBI，2023年 将与UEFI、LinuxBoot擦出火花。在驱 动、环境和SBI接口的基础上，提供快速 外 设 结 构 联合所有权、泛型等，暴露外设所有功能 外 设 及 其 寄 存 器 表 示 封装寄存器、位域表示和数据结构 分享性外设：以GPIO为例 • 从前级环境获取所有权，如从ROM 运行环境的#[entry]获得； • 配置GPIO状态后，只有对应外设类 型允许的操作函数能通过编译，否则 拒绝编译，避免不安全行为； • 开源标准抽象的功能，使用抽象规定 的调用方法。本芯片外设专属的功能

在浏览器中运行 Python 主讲人： 韩骏 – Code Runner 作者 自我介绍 • 高级软件工程师 @ 微软开发平台事业部 • 《Visual Studio Code 权威指南》作者 • 20 多款 VS Code 插件（比如 Code Runner） • “玩转VS Code”知乎专栏 & 微信公众号 • VS Code 中文社区创始人 • https://github.com/formulahendry/955

条切实可行的量化方案。 YOLOv6 采用了多分支的重参数化结构 [2]（如图 1A 所示），通过在网络结构层面加 入人工先验可以在训练阶段让模型更好收敛。在推理阶段，多分支可以等价合并为单 路，从而提升运行速度。但现有的训练后量化方法，不能很好应对多分支结构带来的 剧烈变动的数值范围，导致量化后产生严重的精度损失 [3]。另外，如何针对多分支结 构设计量化感知训练（QAT）方法也面临着较大的挑战。蒸馏常被用来辅助 QAT，使量化模型精度满足业务需求， 然后导出带有“Quant”、“DeQuant”节点的 ONNX，最后再利用 TensorRT 构 建量化引擎。我们发现这两种方案最终生成的图结构并不相同，导致部署模型的实际 运行效率存在很大的差异，通常 QAT 方法生成的模型效率更低。 我们在 NVIDIA T4 机器上对量化模型进行了对比测试（见下表 5）。尽管 QAT INT8 模型的 QPS 比 FP16 高了～ 3.1.1 性能分析 首先，我们利用 nsys 工具 [5] 对 QAT INT8 的模型和 PTQ INT8 模型进行了性能分 析，如下表所示： 表 6 PTQ/QAT 节点的 Kernel 运行时间分析 从中我们发现，QAT INT8 有 10.8% 的 kernel 执行了 permutationKernelPLC3 操作，这些操作对应 quantize_scale_node 节点，如下图

平台、在线检索框架及云搜平台、在线 AI 服务及实验平台三大体系构成。在 AI 服务及实验平台中，模型训练平台 Poker 和 在线预估框架 Augur 是搜索 AI 化的核心组件，解决了模型从离线训练到在线服务的 一系列系统问题，极大地提升了整个搜索策略迭代效率、在线模型预估的性能以及排 序稳定性，并助力商户、外卖、内容等核心搜索场景业务指标的飞速提升。 算法 2 > 美团 2020 据自己的需求定制逻辑。 算法 < 9 离在线统一逻辑：Transformer 是特征处理的模型相关逻辑，因此我们将 Trans- former 逻辑单独抽包，在我们样本生产的过程中使用，保证离线样本生产与线上特 征处理逻辑的一致性。 基于这两个概念，Augur 中特征的处理流程如下所示： 首先，我们会进行特征抽取 ， 抽取完后，会对特征做一些通用的处理逻辑；而后，我们会根据模型的需求进行二次 资源，因为公用特征只需抽取计算一次即可。 12 > 美团 2020 技术年货 此外，这一套配置文件也是离线样本生产时使用的特征配置文件，结合统一的 OP&Transformer 代码逻辑，进一步保证了离线 / 在线处理的一致性，也简化了上 线的过程。因为只需要在离线状态下配置一次样本生成文件，即可在离线样本生产、 在线模型预估两个场景通用。 4.2 完善预估系统：性能、接口与周边设施 4.2.1

• 延迟 • 数据隐私 • 成本 • 大规模部署 • 离线运行 • 支持不同的设备 • Linux, Windows • AMD64, ARM32v7, ARM64 Azure IoT Edge + AI 把 AI 运算下放到边缘计算节点。 如何运作？ 问题迎刃而解 • 延迟 • 数据隐私 • 成本 • 大规模部署 • 离线运行 • 支持不同的设备 • Linux, Windows

VM One Service, Write Once Run Anywhere 微服务划分 Intervene 干预 Measure 评估 User 用户 • 离线标签类画像， 批量选取用户群 特征 • 离线及实时用户指 标，单用户业务个 性化属性数值 指标 • 短信、Tips、邮 件、站内信通知 触达 • 礼包发放、积分 赠送、体验资格 营销 • 服务编排、运营策略 Atomic + Inmem + Redis、令牌桶 流控 • 轻重分离、单元化部署、容错 降级 • 实时上报、缓存汇聚/本地文件、ELK 日志监控告警 • Bind Golang to Lua 运行时类库 并发模型 异步Async 批量Batch 多核并行Parallel Lua协程绑定Go程 IO阻塞自动切换 高可用 负载均衡 寻址 限流 缓存 降级 SLA保证 并行执行单元

Technology 早期的 cron V7，1979 1. 在Version 7 Unix里是一个系统服务 2. 只用 root 运行任务 3. 算法简单直接 @Copyright Sunteng Technology 早期的 cron 运行逻辑 1. 读 /usr/lib/crontab 文件 2. 如果有命令要在当前时间执行，就用 root 用去执行命令 3. Sleep Sunteng Technology Azkaban 批量工作流任务调度器(Hadoop) @Copyright Sunteng Technology Chronos Chronos 是一个运行在 Mesos 之上的具有分布式容错特性的作业调度器 @Copyright Sunteng Technology Dkron 分布式高可用的任务调度系统 @Copyright Sunteng Jobs Jobs @Copyright Sunteng Technology cronnode 1. 节点可以进行分组(label) 2. 节点的状态 ① 正常结点 ② 故障节点 ③ 离线节点 @Copyright Sunteng Technology cronweb 1. 管理任务 2. 查询任务执行结果 @Copyright Sunteng Technology

XuperBridge 2.1. 内核调用设计 2.2. KV接口与读写集 2.3. 合约上下文 3. XVM虚拟机 3.1. 背景 3.2. WASM简介 3.3. WASM字节码编译加载流程 3.4. 语言运行环境 3.5. XuperBridge对接 3.6. 资源消耗统计 4. 账号权限控制模型 4.1. 背景 4.2. 名词解释 4.3. 模型简介 4.4. 实现功能 4.5. 系统设计 5 2; // 写集对应的value bytes value = 3; } 19 20 4. 智能合约 自研并实现了一套智能合约虚拟机XVM。特点如下： 1. 合约状态数据与合约代码运行环境分离，从而能够支持多语言虚拟机且各 种合约虚拟机只需要做纯粹的无状态合约代码执行； 2. 支持执行消耗资源，避免恶意攻击； 3. 支持丰富的智能合约开发语言，比如go，Solitidy，C/C++，Java等； 本章节将指导您获取XuperChain的代码并部署一个基础的可用环境，还会展示 一些基本操作 1. XuperChain环境部署 1.1. 准备环境 XuperChain主要由Golang开发，需要首先准备编译运行的环境 安装go语言编译环境，版本为1.11或更高 下载地址：golang [https://golang.org/dl/] 安装git 下载地址：git [https://git-scm.com/download]