HBM）中以提高计算速度。加速器厂商们也不可避免地需要开发复杂的内存管理系统。 现行加速器内存管理方案存在诸多缺陷： • CPU 侧内存管理与加速器侧分离，数据显式搬移，加速器内存管理的易用性和性能难以平衡。 • 大模型场景下加速器设备 HBM 内存（Hign BandWidth Memory）严重不足，现有的手动 swap 方案性能损耗大且 通用性差。 • 搜推、大数据场景存在大量无效数据搬移，缺少高效内存池化方案。 当内存池以共享方式接入后，可解决数据反复搬移的痛点。 GMEM 革新了 Linux 内核中的内存管理架构，其中逻辑映射系统屏蔽了 CPU 和加速器地址访问差异，remote_pager 内存消息交互框架提供了设备接入抽象层。在统一的地址空间下，GMEM 可以在数据需要被访问或换页时，自动地迁移数 据到 OS 或加速器端。 功能描述 Host Device GMEM API Process Main Remote 前上限为 CPU 的 DRAM 容量）。GMEM 将较冷的设备内存页换出到 CPU 内存上，拓展了应用处理的问题规模，实现高性能、低门槛训推。 通过 GMEM 提供的极简异构内存管理框架，在超大模型训练中，GMEM 性能领先 NVIDIA-UVM。随着内存使用量增长，领 先比例不断提升，在超分两倍以上时可领先 NVIDIA-UVM 60% 以上。（数据基于 NPU-Ascend910 与 GPU-A100

CANN 或 NVIDIA 的 CUDA 软件。 • AI 框架镜像：以 SDK 镜像为基础，安装 AI 框架软件，如 PyTorch 或 TensorFlow。 • 模型应用镜像：在 AI 框架镜像的基础上，包含完整的工具链和模型应用。 相关使用方式请参考 openEuler AI 容器镜像用户指南。 openEuler 使能 AI，向用户提供更多 OS 选择。基于 openEuler 的 AI 等应用的开发和调试。同时， 可在该类容器中运行高性能计算任务，例如大规模数据处理、并行计算等。 • AI 框架镜像：用户可直接在该类容器中进行 AI 模型开发、训练及推理等任务。 • 模型应用镜像：已预置完整的 AI 软件栈和特定的模型，用户可根据自身需求选择相应的模型应用镜像来开展模型推理或微调 任务。 应用场景 场景创新 12 openEuler 24.03 LTS 技术白皮书 EulerCopilot 相关使用方式请参考 EulerCopilot 智能问答服务使用指南。 EulerCopilot- 智能问答 功能描述 应用场景 当前，openEuler 和 AI 深度结合，一方面使用基础大模型，基于大量 openEuler 操作系统的代码和数据，训练出 EulerCopilot， 初步实现代码辅助生成、智能问题智能分析、系统辅助运维等功能，让 openEuler 更智能。 AI for

优先级负载均衡特性 负载均衡 FIFO 任务迁移队列不区分优先级，无法解决跨核迁移抢占保障高优先级，特别是 CPU 敏感型任务的优先调 度，针对在线、离线容器混部场景下，CFS 负载均衡需要提出一种优先级队列模型，支持高低优先级的 QoS 负载均衡，确 保在线业务能更快得到调度和执行，最大化压制离线任务的 QoS 干扰，提高整机 CPU 资源利用率。 混部场景中，开启了 CPU QoS 优先级负载均衡特性，需要将 2017 等基准测试中性能大幅优于上游社区的 GCC 10.3 版本。 • 支持 mcmodel=medium、fp-model、四精度浮点、矢量化数学库等功能。 • 支持自动反馈优化特性，实现应用层 MySQL 数据库等场景性能大幅提升。 • 多版本 GCC 共存支持：提供以 GCC 12.2.0 为基线的 gcc-toolset-12 系列软件包，支持 Intel SPR 相关特性。 • 擎天Enclave TEEOS SDK Qingtian SDK 金融风控 安全通道 开发工具 零切换 远程证明 新增特性 规划中 …… 硬件密码机 替代 软硬融合 全密态数据库 AI模型和 数据保护 29 openEuler 22.03 LTS SP2 技术白皮书 特性增强 应用场景：密态数据库 密态数据库在 TEE 中提供 SQL 查询和计算能力，当数据库客户端请求查询时会将客户端密钥通过安全通道传入

l 迭代效率低 l 开发繁琐 Ø 设备管理 03 运维平台设计 架构演进大事记 整体架构设计 通用代理服务集群设计(Promise) 运维任务模型设计 应用配置管理 权限管理 运维平台Fast 整体架构 API接入层 通用代理服务(Promise) HTTP传输 ZMQ-Proxy KCP-Proxy 任务模板 生 成 器 配置管理 服务发现 设备管理 ssh webshell webshell Fast web Fast cli Fast monitor 其他 外部系统 智能调度 资产平台 监控系统 云图可视化 应用层 基于API层实现的Web管理、命令行工具、监控dashboard等 API层 提供任务管理、模板管理、设备管理、服务发现及状态等接口 核心模块 实现通用运维任务模板、差异化配置管理、设备反向管理等功能 通用代理集群服务 实现多协 支持控制流、数据流等场景的实时性和可靠性 l 模型: ü 数据传输类: 标准http模式 ü 消息控制类: sub/pub, push/pull, register/unregister ü 支持服务发现 Promise集群 CNC CT CM … CDN 节点 CNC CT CM … 应用服务端 通用代理服务(Promise)架构及应用 HTTP 接口 ZMQ协议 KCP协议 应用层 API层 封装底层不同协议实现pub/sub

边缘数据服务：通过边缘数据服务实现消息、数据、媒体流的按需持久化，并具备数据分析和数据导出的能力。 4. 边云智能协同架构（Sedna）：基于开源 Sedna 框架，提供基础的边云协同推理、联邦学习、增量学习等能力，并 实现了基础的模型管理、数据集管理等，使能开发者快速开发边云 AI 协同特性，以及提升用户边云 AI 特性的训练 与部署效率。 应用场景 可应用智能制造、城市交通、高速收费稽查、智慧加油站、医疗影像识别、智慧园区等广泛的边云协同场景。 rmid，支持 MPAM 设备节点通过 device tree 配置启动，可用于虚拟化 等场景。 • TCP 压缩特性：hbase 等分布式数据库节点间数据传输量大，网络传输是性能瓶颈；在 TCP 层对指定端口的数据进 行压缩后再传输，收包侧把数据解压后再传给用户态，从而提升分布式场景节点间数据传输的效率。 • 支持 SGX 特性：SGX (software guard extensions) 统一集群化部署、监控、审计等场景。 安全容器 StratoVirt： • 强安全性：基于 Rust 实现语言级安全，模块按需组合最小化攻击面，支持多租户物理隔离。 • 轻量低噪：采用极简设备模型时，启动时间小于 50ms，内存底噪小于 4M。 • 软硬协同：支持 x86 的 VT，支持鲲鹏的 Kunpeng-V。 • 极速伸缩：毫秒级设备扩缩能力，为轻量化负载提供灵活的资源伸缩能力。

函数的生命周期管理 • 兼容 OCI 格式容器镜像，管理本地函数镜像资源 2. Wasm 轻量级协程调度框架 抽象 Wasm 实例执行上下文，支持轻量级高性能的用户态协程调度模型，并支持 JIT/AOT 多种 Wasm 实例执行模型。 应用场景 适用于按需启动短时间运行时的无状态 FaaS 函数任务，例如在 CDN 边缘计算场景下，可以部署客户自定义实现的请求 预处理函数，实现按需拉取、快速响应。 拓扑时的可见范围 2. 用户态工具部分 用户态工具提供的功能，是对接内核态上述功能提供的 sysfs 接口供用户使用，将目标应用运行在指定的隔离 CPU 上。 HPC 业务特征大部分符合 BSP 模型 (Bulk Synchronous Parallel Computing)：并行计算 + 通信 + 同步。系统噪声对这 类业务特征有较大性能影响。系统噪声指的是业务运行中执行的非应用计算任务，包括：系统 开源平台上实现面向云数据中心的企业级虚拟化平台，Strato 意指大气层中的平流层，寓意为保 护 openEuler 平台上业务平稳运行的轻薄的保护层。 StratoVirt 主要优势如下： • 强安全性：基于 Rust 实现语言级安全，模块按需组合最小化攻击面，支持多租户物理隔离。 • 轻量低噪：采用极简设备模型时，启动时间小于 50ms，内存底噪小于 4M。 • 软硬协同：支持 x86

数据读写压力的方法。准确的检测方法可以帮资 源使用者确定合适的工作量，帮助系统制定高效 的资源调度策略，最大化利用系统资源，改善用 户体验。 8. TCP 发包切换到了 Early Departure Time 模型： 解决原来 TCP 框架的限制，根据调度策略给数据 包设置 Early Departure Time 时间戳，避免大的 队列缓存带来的时延，同时大幅提升 TCP 性能。 9. 支持 MultiPath 内存访问效率。 • IO 子系统增强：支持多通道并发 IO 能力，提高 IO 性能。支持 IO-QOS 能力，提升虚拟机 IO 流量管理的灵活性和 稳定性。 • 系统调用过滤：通过极简设备模型设计和 SECOMP 过滤系统调用，最简配置下仅需使用 35 个系统调用，有效减小 系统攻击面。 更多详细内容请参考 openEuler 20.09 技术白皮书：https://openeuler 虚拟化平台 StratoVirt StratoVirt 是 openEuler 开源平台上实现面向云数据中心的企业级虚 拟化平台， Strato 意指大气层中的平流层，寓意为保护 openEuler 平台上 业务平稳运行的轻薄的保护层。 QEMU 代码量庞大、CVE 安全漏洞频出，业界逐步演进出以 Rust 语言 实现的 CrosVM、FireCracker 和 Rust-VMM 等新型虚拟

虚拟化/容器 边云协同套件 嵌入式套件 机密计算服务 欧拉 DevKit … 实时加速框架 机密计算框架 … Linux Kernel 实时内核 安全内核 … 场 景 使 能 层 基 础 服 务 层 内 核 openEuler 21.09 技术白皮书 06 平台框架 openEuler 社区与上下游生态建立连接，构建多样性的社区合作伙伴和协作模式，共同推进版本演进。 国际开源社区 统一集群化部署、监控、审计等场景。 安全容器 StratoVirt： 1. 强安全性：基于 Rust 实现语言级安全，模块按需组合最小化攻击面，支持多租户物理隔离。 2. 轻量低噪：采用极简设备模型时，启动时间小于 50ms，内存底噪小于 4M。 3. 软硬协同：支持 x86 的 VT，支持鲲鹏的 Kunpeng-V。 4. 极速伸缩：毫秒级设备扩缩能力，为轻量化负载提供灵活的资源伸缩能力。 边缘数据服务：通过边缘数据服务实现消息、数据、媒体流的按需持久化，并具备数据分析和数据导出的能力 4. 边云智能协同架构（Sedna）：基于开源 sedna 框架，提供基础的边云协同推理、联邦学习、增量学习等能力， 并实现了基础的模型管理、数据集管理等，使能开发者快速开发边云 AI 协同特性，以及提升用户边云 AI 特性的 训练与部署效率。 应用场景 可应用智能制造、城市交通、高速收费稽查、智慧加油站、医疗影像识别、智慧园区等广泛的边云协同场景。

自回归算法 • 深度学习算法 时间序列的分类特征 • 熵特征 • 值分布特征 • 小波分析特征 单维时间序列分析 有监督异常检测算法 （RF，GBDT，XGBoost，深度学习） 数据层 数据存储 数据提取 统计算法 输出疑似异常 无监督算法 输出疑似异常 有监督算法 特征工程 离线训练 实时计算 人工标注 提升效果 单维时间序列分析 时间序列异常检测整体流程 特征维度>200，可以自定义特征； 异常查询：异常入库存储，提供管理，查询，检索，放缩功能； 人工标注：提供正负样本的标注工具； 样本管理：提供检索，图示，编辑，删除，导入等功能； 模型管理：提供模型训练，预测功能。 腾讯 Metis 智能监控的功能特性（http://github.com/Tencent/Metis） 腾讯 Metis 智能监控的页面 单维时间序列分析 01 智能运维场景描述 多维下钻 分析异常维度 多维时间序列分析 多维时间序列分析 判断时间序列是否波动 人工查找可疑维度 人工查找可疑元素 1 2 3 人工分析异常维度 数据存储 多维时间序列 异常检测 多模型融合 正负样本 业务场景 特征工程 连续特征 离散特征 有监督算法 输出规则 多维时间序列分析 智能多维下钻分析 发现问题 分析问题 1 2 多维时间序列分析 成功率 运营商

务自动化、工具化、可视化。 数据驱动运维：基于大数据 的接入、存储、分析技术，对运 维数据进行全面挖掘和分析，实 现数据驱动自动化运维。 机器驱动运维：基于智能算法 的机器自我学习，训练机器智能运 维模型，实现无人值守和智能的运 维与运营。 数据化 2015--2017 智能化 2017—现在 蓝鲸目前在腾讯应用情况及发展方向 4个转型的绊脚石 有重客户端游戏，网页游戏，各类官网，移动终端游戏， PaaS平台：开发框架/API集成 统一配置管理 模型定义 自动采集 配置维护 拓扑视图 配置消费 统一运维门户 可视化大屏、统一报表、统一权限、移动运维 变更 流程融合 事件 问题 请求 知识库 SLA 服务目录 流程引擎 运维流程管理 配置 平台 容器平台 作业 平台 视图 嘉为蓝鲸CO：数据分析与智能运营解决方案 中 间 服 务 层 数据总线（数据交换、同步、共享） 计 算 配置数据消费 配置数据写入 蓝鲸Agent linux win AIX 应用 中间件 数据库 存储 虚拟化平台 …… 外部数据源 蓝鲸CMDB 业务管理 主机资源管理 操作审计 事件推送 模型管理 实例管理 权限管理 拓扑管理 自动采集（采集适配器） 配置管理门户 数据分析 数据展示 数据质量 外部对接 功能示例 2、监控整体逻辑架构 监控采集 Agent插件采集 TCP/UDP