灵活性 高 低 实时性、可靠性 高 低 过去 现在 Linux 应用处理器 (S3C2440) 应用 存储 外设 通信 RTOS 微控制器 (Cortex M3/M4) 应用 存储 外设 通信 Baremetal DSP/微控制器 应用 存储 外设 通信 片外通信:SPI, I2C, UART…. 问题：硬件复杂、通信效率低、软件灵活性低、开发效率低、升级困难 基于STM32F407 168MHz ✓ 上下文切换：<3us ✓ 任务抢占：<3us ✓ 信号量混洗：<7us ✓ 死锁解除：<9us ✓ 消息传递延迟：<4us ✓ 中断延迟：<2us 支持基于优先级的抢占和极致的任务抢占和中 断延迟，支持裁剪至百KB级别。 性能规格如下(不同功能情况下，性能会有不同)： 集成开发环境 yocto构建 编译器 VSCode插件 CI 上海海思

接口分配内存时，将不受加速器的物理内存容量所限制，应用可以透明地超分内存（当前上限为 CPU 的 DRAM 容量）。GMEM 将较冷的设备内存页换出到 CPU 内存上，拓展了应用处理的问题规模，实现高性能、低门槛训推。 通过 GMEM 提供的极简异构内存管理框架，在超大模型训练中，GMEM 性能领先 NVIDIA-UVM。随着内存使用量增长，领 先比例不断提升，在超分两倍以上时可领先 NVIDIA-UVM Kernel 6.4 内核构建，在此基础上，回合了 openEuler 社区低版本的有益特性及社区创新特性。 • 潮汐 affinity 调度特性：感知业务负载动态调整业务 CPU 亲和性，当业务负载低时使用 prefered cpus 处理，增强资 源的局部性；当业务负载高时，突破 preferred cpus 范围限制，通过增加 CPU 核的供给提高业务的 QoS。 • CPU QoS 优先级负载均衡特性：在离线混部 cpu.qos_level，即多个优先级，使用 qos_level_weight 设置不同优先级权 重，按照 CPU 的使用比例进行资源的划分。并提供唤醒抢占能力。在提高机器利用率的同时，保证高优和延迟敏感的 在线业务不受离线业务的影响。 • 可编程调度：基于 eBPF 的可编程调度框架，支持内核调度器动态扩展调度策略，以满足不同负载的性能需求，具备 以下特点： （1） 标签管理机制：开放

keep- ingFre- quency 是 1 小 时, 一 个 周 期 内 不 会 删 除 超 过 4 小 时 的 过 期 信 息 (从 最 旧 的 数 据 开 始) 。 备 注: 为 降 低 server 压 力， house- keep- ing 将 在 server 启 动 以 后， 延 迟 30 分 钟 执 行。 因 此, 如 果 House- keep- ingFre- UnreachablePeriod 否 -3600 5 主 机不 可 用多 少 秒 后， 即 视 为 主 机 不 可 用。 107 参数名称必须配 范围 默认值 描述信息 User 否 abbix 低 系 统 某 普 通 用 户 的 权 限。 仅 当 以’root’ 身 份 运 行 且 Al- low- Root 参 数 设 置 为 禁 止 时， 该 参 数 才 起 作 用。 从 Zab- keep- ingFre- quency 是 1 小 时, 一 个 周 期 内 不 会 删 除 超 过 4 小 时 的 过 期 信 息 (从 最 旧 的 数 据 开 始) 。 备 注: 为 降 低 server 压 力， house- keep- ing 将 在 server 启 动 以 后， 延 迟 30 分 钟 执 行。 因 此, 如 果 House- keep- ingFre-

一 个 周 期 内 不 会 删 除 超 过 4 小 时 的 过 时 信 息 (start- ing from the old- est en- try) . 备 注: 为 降 低 server 压 力， house- keep- ing 延 后 server 启 动 30 分。 因 此, 如 果 House- keep- ingFre- quency 是 UnreachablePeriod no 1-3600 45 在 多 少 秒不 可 用 后， 即 视 为 主 机 不 可 用。 49 参数必 范围 默认值 描述 User no zabbix 降 低 权 限 为 系 统 中 存 在 的 指 定 用 户。 仅 当 系 统 以’root’ 身 份 运 行 且 Al- low- Root 禁 止 时， 该 参 数 才 起 作 用。 Zabbix 分。因此, 如果 HousekeepingFrequency 是 1，proxy 启动 30 分后执行第 一次 housekeeping , 一小时后 重复，Zabbix 2.4.0 以后有了 这种延迟行为。 从 Zabbix 3.0.0 开始，可以设 置 HousekeepingFrequency 为 0 来禁止自动 housekeeping.。此时 housekeeping 只能通过 housekeeper_execute

Linux 混合部署。 5. 嵌入式软件包支持：350+ 嵌入式领域常用软件包的构建。 6. 硬实时内核（UniProton）：支持 POSIX 接口（103 个），上下文切换时延 3us、中断延迟 2us。 未来还将提供： • 南向生态：RISC-V、龙芯支持。 • 混合关键性部署框架：围绕生命周期管理、跨 OS 通信、服务化框架、多 OS 协同构建 4 个方面持续打造标准混部框架， CPU QoS 隔离增强 , 支持多核 CPU QoS 负载均衡，进一步降低离线 业务 QoS 干扰。 • 潮汐 affinity 调度特性：感知业务负载动态调整业务 CPU 亲和性，当业务负载低时使用 prefered cpus 处理，增强资 源的局部性；当业务负载高时，突破 preferred cpus 范围限制，通过增加 CPU 核的供给提高业务的 QoS。 • 支持进程、容器级别 KSM 多优先级任务等待队列，在线任务和离线任务分别由不同优先级的 CFS 任务等待队列维护。多核 CPU 负载均衡时，优先从任务等待队列中选择高优先级任务，确保高优先级任务迁移优先得到调度；压制低优先级任务迁移， 减少不必要的低优先级任务上下文切换、唤醒抢占等带来的 QoS 干扰及调度性能开销。 提供用户可配置的接口：/proc/sys/kernel/sched_prio_load_balance_enabled

压 力，housekeeping 将 在 server 启动以后， 延迟 30 分钟执行。因 此, 如果 Housekeep- ingFrequency 是 1 小 时,serverg 启动 30 分 后执行第一次 housekeeping , 然后 按 1 小时为周期重复执 行。从 Zabbix 2.4.0 以 后有了这种延迟行为。 从 Zabbix 3.0.0 开始， 可以设置 Housekeep- 压 力，housekeeping 将 在 server 启动以后， 延迟 30 分钟执行。因 此, 如果 Housekeep- ingFrequency 是 1 小 时,serverg 启动 30 分 后执行第一次 housekeeping , 然后 按 1 小时为周期重复执 行。从 Zabbix 2.4.0 以 后有了这种延迟行为。 从 Zabbix 3.0.0 开始， 可以设置 Housekeep- type - 对于传感器芯片：”in” (电压), ”temp” (温度), ”fan” (风扇), 等， • item - ”input” (测量值), ”max” (高阈值), ”min” (低阈值), 等, • number - 总是用于可以不止一次出现的元素 (经常从 1 开始, 除了电压从 0 开始)，如果文件不引用特定的元素，则它们的名称简 单，没有数字。 可以通过 sensor-detect

压 力，housekeeping 将 在 server 启动以后， 延迟 30 分钟执行。因 此, 如果 Housekeep- ingFrequency 是 1 小 时,serverg 启动 30 分 后执行第一次 housekeeping , 然后 按 1 小时为周期重复执 行。从 Zabbix 2.4.0 以 后有了这种延迟行为。 从 Zabbix 3.0.0 开始， 可以设置 Housekeep- 压 力，housekeeping 将 在 server 启动以后， 延迟 30 分钟执行。因 此, 如果 Housekeep- ingFrequency 是 1 小 时,serverg 启动 30 分 后执行第一次 housekeeping , 然后 按 1 小时为周期重复执 行。从 Zabbix 2.4.0 以 后有了这种延迟行为。 从 Zabbix 3.0.0 开始， 可以设置 Housekeep- type - 对于传感器芯片：”in” (电压), ”temp” (温度), ”fan” (风扇), 等， • item - ”input” (测量值), ”max” (高阈值), ”min” (低阈值), 等, • number - 总是用于可以不止一次出现的元素 (经常从 1 开始, 除了电压从 0 开始)，如果文件不引用特定的元素，则它们的名称简 单，没有数字。 可以通过 sensor-detect

中间件数据存储场景 • ⽀持POSIX兼容的⽂件API • ⽀持低延迟的⽂件数据访问Curve⽂件系统⾯临的问题 • ⽤户态实现 • 稳定性/可靠性⾼ • 容易更新及维护 • 基于FUSE提供POSIX兼容⽂件接⼝ • 问题 • 相对kernel⽂件系统的实现(ext4, xfs)性能 差异⼤，延迟⾼FUSE⽂件IO读写流程 • 场景1 pytorch example ⽂件访问测试直接访问ext4 • 通过FUSE访问passthrough_ll底层ext4 • 内核调⽤延迟测试 • 与FUSE Daemon通讯120us左右，FUSE Daemon⼤概10us以内 • 瓶颈在/dev/fuse通讯开销基于FUSE可能的优化点 • 降低内核与libfuse通讯延迟 • 基于⽂件属性的操作内核直接返回？ • 基于⽂件数据的操作先内核读写 cache？实现POSIX兼容API途径及问题 • BentoFS 基于rust的实现采⽤LD_Preload⽅式瓶颈分析 • 环境 • FUSE daemon使⽤ passthrough_ll 调⽤底层ext4 • 进程共享内存通信延迟10us+ • others 开销 10us+ • fuse_ll_ops开销10us-基于FUSE的优化框架 • 框架优化的要点 • 共享inode cache • 共享data

比如接口：/api/v1/query，如何度量这个接口的健康状况？最核心有两个指标，一个是成功 率，一个是延迟，成功率的计算代价比较小，只需要为每个请求指标打上 statuscode 的标签即 可，然后可以求取非 5xx 非 4xx 的请求占比，即可得到成功的数量，除以总量就是成功率。 1 2 3 而对于延迟，如果只是求取平均延迟，代价也比较小，只要把请求总量做成一个 Counter 指 标，把耗时总量做成一个 求，可能恰好是暴露问题的200个请求。 所以在看延迟数据时，我们通常会用分位值，比如99分位，90分位，50分位，所谓的分位值， 就是把一段时间内的所有延迟数据从小到大排序，99分位就是看第99%位置的那个值的大小。 还是上面的例子，平均响应时间是1.18秒，但是99分位时间是10秒，相差巨大，更容易暴露问 题。这里所谓的99分位延迟10秒，可以理解为，99%的请求都在10秒内返回。 的设计初衷了。 Histogram 类型，是把延迟数据分到多个桶里，比如下面的例子，我们查询一个bucket指标看 看效果，虽然这个指标的桶划分不是很合理，也可以说明问题： binlog_consumer_latency_seconds_bucket 这个指标，有一个非常非常重要的标签叫 le，表 示桶上界，上面的例子就表示，binlog的consume延迟数据分成了6个桶，分别统计了每个桶的 总的consume次数：

压 力，housekeeping 将 在 server 启动以后， 延迟 30 分钟执行。因 此, 如果 Housekeep- ingFrequency 是 1 小 时,serverg 启动 30 分 后执行第一次 housekeeping , 然后 按 1 小时为周期重复执 行。从 Zabbix 2.4.0 以 后有了这种延迟行为。 从 Zabbix 3.0.0 开始， 可以设置 Housekeep- 压 力，housekeeping 将 在 server 启动以后， 延迟 30 分钟执行。因 此, 如果 Housekeep- ingFrequency 是 1 小 时,serverg 启动 30 分 后执行第一次 housekeeping , 然后 按 1 小时为周期重复执 行。从 Zabbix 2.4.0 以 后有了这种延迟行为。 从 Zabbix 3.0.0 开始， 可以设置 Housekeep- type - 对于传感器芯片：”in” (电压), ”temp” (温度), ”fan” (风扇), 等， • item - ”input” (测量值), ”max” (高阈值), ”min” (低阈值), 等, • number - 总是用于可以不止一次出现的元素 (经常从 1 开始, 除了电压从 0 开始)，如果文件不引用特定的元素，则它们的名称简 单，没有数字。 可以通过 sensor-detect