异构系统链路追踪 ——滴滴trace实践 背景 诉求 挑战—在滴滴落地面临的挑战 方案 日志规范和组件 日志数据处理 日志应用 Trace机制 —传递trace context Trace落地—结合滴滴情况落地 Trace应用 —调用链路跟踪 Trace应用 —调用链路跟踪 Trace应用 —场景还原 ③ 时间顺序还原操作序列 ① 业务id和traceid关联 ② 根span具有业务代表性

20GB 场景创新 09 openEuler 23.09 技术白皮书 场景创新 场景创新 10 openEuler 23.09 技术白皮书 异构通用内存管理框架（GMEM）特性 在后摩尔时代，GPU、TPU 和 FPGA 等专用异构加速器设备正不断涌现，它们与 CPU 类似，需要将数据放在本地内存（例 如 LPDDR 或 HBM）中以提高计算速度。加速器厂商们也不可避免地需要开发复杂的内存管理系统。 HMM 方 案搁浅。异构加速器领域亟需高效的统一内存管理机制。 异构通用内存管理框架 GMEM （Generalized Memory Management），提供了异构内存互联的中心化管理机制，且 GMEM API 与 Linux 原生内存管理 API 保持统一，易用性强，性能与可移植性好。 加速器使用 GMEM API 将内存接入统一地址空间后，可自动获得 GMEM 面向异构内存编程优化的能力。与此同时，加 面向异构内存编程优化的能力。与此同时，加 速器驱动无需重复实现内存管理框架，大幅降低开发维护带来的成本。 开发者使用一套统一申请、释放的 API，即可完成异构内存编程，无需处理内存搬移等细节。在加速器 HBM 内存不足时， GMEM 可将 CPU 内存作为加速器缓存，透明地超分 HBM，无需应用手动 swap。GMEM 提供高效免搬移的内存池化方案， 当内存池以共享方式接入后，可解决数据反复搬移的痛点。 GMEM

一云多芯技术打造具 有安全性和高效性的政务云平台。同时，一云多芯已逐渐完成从底 层硬件至上层云原生应用的多芯全栈式适配兼容。作为 IT 产业发展 承上启下的关键环节，一云多芯不仅可以对底层各种异构资源统一 调度，还可以实现对上层应用和软件的适配操作，同时保证云平台 性能高效稳定。硬件芯片方面，通过屏蔽底层芯片差异实现资源池 化，从而满足对各种芯片的统一调度，这不仅包含对飞腾、鲲鹏、 造。当前，传统私有云越来越难以满足央国企对安全、合规、可运 营运维等多要素的需求，专有云成为满足央国企多重需求的重要解 决方案，如国家电网、建设银行等大型央国企已开展专有云建设。 另一方面，信创产品异构兼容性改造。随着信创产品功能、性能不 断提升，央国企逐渐引入信创产品到自身云平台中，天翼云、中国 电子云依托良好的信创兼容能力推动央国企云信创改造。二是禀赋 要求引领行业云生态建设。央国企作为我国市场经济的“顶梁柱”， 人工智能大模型的快速发展，引发数字应用使用方式和算力资 源供给的双向变革，加速了云计算向面向大体量分布式应用体系化、 工程化创新的操作系统演进。 云计算白皮书（2023 年） 27 向下来看，算力资源呈现出计算异构、算网融合的特点。以 GPT-4 为例，其模型训练借助公有云能力在通用 CPU 的基础上整合 上万个 GPU 芯片，通过云计算平台实现 GPU 集群和 CPU 集群的标 准化封装，保障训练任务可以直接下发到大规模计算集群。同时在

版权所有 ©2016-2021 ⼤�模⾼性能区��架构⾯�的�� 大规模高性能 区块链架构设计 网络连通问题 数据孤岛问题 异构部署问题 性能扩展问题 之困局 ？ n 机构间数据难打通，不愿打通 n 公网内网、网关网闸情况复杂 n 业务组织形式不同，异构链/系统难适配 n 数据量、网络复杂度指数上升，架构难扩展 16 趣链科技 版权所有 ©2016-2021 主链 节点 节点 锚节点 锚节点 锚节点 节点 节点 同构⼦链 同构⼦链 主链 • 存证 • 权限控制 基础⼦链 扩展⼦链 • 同构⼦链直接通过主链互通 • 异构⼦链需借助⽹关实现互通 异构⼦链 锚节点 节点 ⽹关 • 治理 • 监管友好 ⼆层⼦链 ⼆层⼦链 锚节点 锚节点 按需可扩展多层⼦链，基础⼦链为 扩展⼦链提供存证、互通等能⼒ 共识节点 ⾮共识节点 轻节点 轻客户端 节点数量较多，不参与共识，存储全量数 据，节点间使⽤gossip协议同步数据 轻节点 节点数量较多，存储部分数据， ⽤于交易的证明验证 轻客户端 节点数量较多，⼀般为物联⽹终端 设备，主要进⾏数据的可信采集 「多��异构并⾏区��架构模型」 17 趣链科技 版权所有 ©2016-2021 17 趣链科技 版权所有 ©2016-2021 17 趣链科技 版权所有 ©2016-2021 17 共识全节点层 Consensus

第 2 页 目录 简介 3 九大能力 4 多云编排 4 中间件服务 4 微服务治理 5 可观测性 5 应用商店 6 应用交付 6 信创异构 7 云边协同 7 云原生底座 8 模块化搭建 8 容器管理 9 全局管理 10 可观测性 10 应用工作台 11 多云编排 11 微服务引擎 第 3 页 简介 DaoCloud Enterprise 5.0（DCE 5.0）是一款高性能、可扩展的云原生操作系统。 它能够在任何基础设施和任意环境中提供一致、稳定的体验，支持异构云、边 缘云和多云编排。 DCE 5.0 集成了最新的服务网格和微服务技术，能够跟踪每 一个流量的生发始终， 帮助您洞察集群、节点、应用和服务的详细指标，并通 过动态仪表盘和拓扑大图可视化掌握应用健康状态。 维能力，实现多云应用高效管控，提供基于集群资源的应用弹性扩缩，实现全局负载 均衡，具备故障恢复能力，有效解决多云应用灾备问题，助力企业构建多云、混合云 的数字基础设施。 涉及的模块：全局管理、容器管理、云原生网络、云原生存储、信创异构 中间件服务 专为有状态应用设计的云原生本地存储能力，满足中间件高 I/O 的存储需求，提升运 维管理效率。精选各类数据库、分布式消息和日志检索等中间件，提供多租户、部 署、观测、备份、运维操作等全生命周期的中

7 次 KDD Cup&Kaggle 冠军的经验分享：从多领域优化到 AutoML 框架 37 图神经网络训练框架的实践和探索 66 图技术在美团外卖下的场景化应用及探索 83 大规模异构图召回在美团到店推荐广告的应用 102 美团搜索粗排优化的探索与实践 116 美团外卖推荐情境化智能流量分发的实践与探索 129 大众点评搜索相关性技术探索与实践 152 美团 SemEval2022 结构化情感分析跨语言赛道冠军方法总结 174 检索式对话系统在美团客服场景的探索与实践 188 端智能在大众点评搜索重排序的应用实践 216 对话摘要技术在美团的探索（SIGIR） 238 异构广告混排在美团到店业务的探索与实践 258 短视频内容理解与生成技术在美团的创新实践 271 美团搜索中查询改写技术的探索与实践 297 美团内部讲座 | 清华大学崔鹏：因果启发的学习、推断和决策 和 KDD Cup 2020 Debias- ing 比赛。二者任务都是面向用户下一次点击预估问题，但因为应用场景与背景的不 同，存在着不同的挑战：前者的数据规模庞大，涉及到数亿个用户在千级别数量异构 站点上的数十亿条浏览记录，对模型优化、融合有着严格的要求；后者则尤为关注推 荐系统中的偏差问题，要求参赛选手提出有效的解决方案，来缓解选择性偏差以及流 行度偏差，从而提高推荐系统的公平性。本节将分别介绍这两场比赛。

采纳的趋势下 认证鉴权的性 能和安全的要 求 帮助企业用 户达成业务 模型和数据 集成标准统 一 通过易于理 解的数据和 入口，管理 复杂的分布 式系统配置 分布式系统配置中心 服务中心异构通信 多语言运行环境 微服务鉴权 微服务契约工具 Apache ServiceComb 面对用户痛点持续创新 3 github.com/apache?q=servicecomb servicecomb - Zipkin - 华为云 异构基础设施 - CCE - Kubernetes - Docker - VM - Bare metal 4 github.com/apache?q=servicecomb servicecomb.apache.org 用户输入 第三方 输出 OpenAPI规范契约文件 契约与代码一致性校验报告 契约（接口）文档 异构微服务项目工程 （ServiceComb 契约校验：一键校验实际代码的实现是否与约定契约一致性。 • 契约/代码生成文档：一键制作html文档。 5 github.com/apache?q=servicecomb servicecomb.apache.org 服务中心异构通信 Syncer pull&&push pull&&push pull&&push Micro service Micro service Micro service Service

复杂的分布 式系统配置 多语言运行环境 服务中心异构通信 微服务鉴权 分布式系统配置中心 微服务契约工具 Apache ServiceComb [Website] http://servicecomb.apache.org [Github ] https://github.com/apache?q=servicecomb Mesher - 开箱即用的异构、多语言、非侵入式微服务框架 基于Gol https://github.com/apache/servicecomb-mesher • 开发计划 - 网关能力 - 融合生态 Istio/Promethues/Skywalking/… - 兼容异构基础设施 K8S/BareMetal/docker/VM/… [Website] http://servicecomb.apache.org [Github ] https://github.com/apache 数据通信支持 • 项目地址：https://github.com/apache/servicecomb-service-center/tree/master/syncer Syncer - 融合异构、多服务中心的同步工具 gossip 协议 Syncer Syncer Syncer Syncer Syncer Syncer Eureka Service Center Consul

创新版本 2021.09 创新版本 2022.03 全场景 LTS版本 全场景 创新版本 2022.09 2023～ 创新版本 代码正式开源 2019.12 内核可编程，场景算力最佳 异构直连聚合，应用跨算力流转 分布式数据管理，数据共享 … 嵌入式 服务器 全场景能力 持续增强 基础能力 持续创新 南向创新 • 可编程内核 • 实时内核 北向创新 • 容器/虚机混部 RISC-V LoongArch x86 … 欧拉生态 + 鸿蒙生态 MICA（混合关键性部署框架） 生命周期管理 跨OS通信 服务化框架 多OS基础设施 嵌入式虚拟化 裸金属 … 轻量级容器 异构 TEE 机器人运行时 openEuler Embedded的运行模式 Multi-Core SOC Core1 Core2 Embedded Linux APP APP RTOS 特点：Linux和RTOS分工 协作 • 强隔离、资源动态分配 • 不足：对异构支持不完善 • 典型硬件:Xilinx Ultra Scale • 特点：异构多核，多种运 行时协同工作 • 不足：软件栈结构复杂 在不同模式下，openEuler Embedded始终是中心，提供富功能、富管理、富生态 混合关键系统：单节点极致“异构” 算力，多种OS/runtime共同部署， 各尽其才，充分利用硬件资源

1/1亿 错误概率 97% 通过率 6位密码时代 1/100万 错误概率 95% 通过率 6000万张人脸训练 2016 2017 What’s Next? 2018 自我演化的异构人工智能云 云原生的深度学习数据闭环 自进化深度学习系统 高度定制的 图片、特征仓库 深度学习 应用服务 场景相关业务 数据清洗-查询 深度学习训练平台 模型测试与验证 深度学习算法在产品应用中的挑战 TensorCore/int8 *示意图来自互联网 Kubernetes在异构系统调度中的挑战 • Kubernetes版本发布快，新特性更新频繁，对异构调度的支持不断加强；但配套设施落后（e.g. Spark on K8s, GitlabCI) • 容器系统调用栈深，需要仔细验证操作系统，内核及异构设备驱动的兼容性 • Kubernetes对NUMA、异构计算、存储设备的调度能力待加强 1.6 nvidia/gpu