微服务容灾治理
1. go-zero
稳定性能⼒概览
经过这么多年⼤流量服务端架构设计的沉淀，go-zero
在保护服务的稳定性上下⾜了功夫，不管是
CPU
密集型还是
IO
密集型服务，go-zero
都能很好的保护服务在如下场景不被拖垮或卡死：
• 远超服务容量的突发⼤流量 • CPU
打满
• 上下游故障或者超时 • MySQL、MongoDB、Redis
等中间件故

分布式应⽤DApp ⽹络层 P2P⽹络 区块链⽹络模型 区块链⽹络协议 扩 展 层 扩展操作 跨链协议 链上链下计算 预⾔机 扩展组件 消息队列MQ 证书管理 测试框架 治理层 权限体系 治理模型 区块链审计 BaaS运维治理 应⽤层 司法存证 供应链⾦融 智慧政务 物联⽹ 能源电⼒ 跨境贸易 ⼯业物联⽹ 智慧城市 ... 不同于完全开放、任何⼈可以加⼊退出的⾮许可链，许可 分布式应⽤DApp ⽹络层 P2P⽹络 区块链⽹络模型 区块链⽹络协议 扩 展 层 扩展操作 跨链协议 链上链下计算 预⾔机 扩展组件 消息队列MQ 证书管理 测试框架 治理层 权限体系 治理模型 区块链审计 BaaS运维治理 应⽤层 司法存证 供应链⾦融 智慧政务 物联⽹ 能源电⼒ 跨境贸易 ⼯业物联⽹ 智慧城市 ... 不同于完全开放、任何⼈可以加⼊退出的⾮许可链，许可 节点 同构⼦链 同构⼦链 主链 • 存证 • 权限控制 基础⼦链 扩展⼦链 • 同构⼦链直接通过主链互通 • 异构⼦链需借助⽹关实现互通 异构⼦链 锚节点 节点 ⽹关 • 治理 • 监管友好 ⼆层⼦链 ⼆层⼦链 锚节点 锚节点 按需可扩展多层⼦链，基础⼦链为 扩展⼦链提供存证、互通等能⼒ 共识节点 ⾮共识节点 轻节点 轻客户端 共识节点 节点数量有限，参与交易的共识，存储全

zhihu.com/question/55912398/ answer/147967674 Service Mesh 的初衷 6 • 升级成本高 • 业务解耦 • 平滑升级 • 异构语言治理 • 异构语言治理能力弱 • SDK 版本不统一 应用 SDK 服务路由 负载均衡 通信序列化协议 sidecar 应用 SDK 通信序列化协议 业务逻辑 服务路由 熔断限流 进程通信 31 Layotto RPC 通信 RPC 治理 Pub/Sub Dapr Config State Actor Metadata Actuator Lock 支持 不支持 建设中 Sequencer 32 另一种视角 看待Runtime API 另一种视角看待 Runtime API 33 抽象的看： OS=治理软件 + 抽象硬件 (把不同硬件抽象成一样的 API，让编程更简单) API，让编程更简单) 数据中心 OS OS K8S = 治理软件（容器） Runtime API = 抽象基础设施 Runtime API + K8S = 可能是下一代分布式 OS 另一种视角看待 Runtime API 34 OS Kernal mode User mode FS IPC Driver Multiplex shell ls app …… Different

极高的沟通和交接成本 错综难懂的模块依赖关系 链路梳理难 日志分散 定位过程“击鼓传花” 跨端性能瓶颈分析繁杂 性能分析难 缺乏对系统整体认知的把控 不合理的调用关系 不合理的直连存储 架构治理能力匮乏 云原生可观测性 3 4 Trace 标准规范 5 标准 概述 Traces Metrics Logs 状态 OpenTracing 2015年底发起，2016年被批准为CNCF第三 停止更新 OpenCensus 2017年，起源于Google，项目负责人来自 Google，Microsoft ✓ ✓ 停止更新 OpenMetrics 2017年，起源于Prometheus社区，项目负 责人来自Grafana，Gitlab ✓ 持续更新 OpenTelemetry 2019年，由OpenTracing和OpenCensus合并 而来。 ✓ ✓ ✓ 蓬勃发展 Trace trace基础属性自动采集 一次网络调用的经过的拦截器数据流 天机阁2.0 简介 12 天机阁2.0是遵循OpenTelemetry标准的，为各业务或平台提供分布式追踪，监控，日志， 多维染色，容量评估，架构治理等能力的云原生可观测性系统。 愿景：让开发一切尽在掌握 - 分布式追踪 - 日志 - 服务监控 - 火焰图 - 存储监控 - SDK监控 - CI/CD监控 - 发布变更 - 告警历史

刘洋（炎寻） 关于我 • 毕业于中国科学技术大学，定居杭州 • 就职于阿里云-云原生应用平台团队 • Problem Solver，聚焦中间件，容器，Kubernetes，PaaS平台… • OAM社区成员 开局一张图 规模化应用交付效率对比去年 每万笔峰值交易的IT成本对比4年前 提升1倍 下降80% 云原生 技术 稳定 成本 效率 云原生-程序员视角 基础设施 K8s 云原生生态（CNCF） 灰度 发布 定时弹性 事件 指标弹性 分批发布 重启 回滚 日志管理 事件中心 指标监控 存储挂载 服务绑定 手动弹性 回退历史 负载均衡 报警 诊断 组件管理 服务治理 … 权限 K8s Istio Envoy Tekton Argo KEDA ES InfluxDB Promethues Knative Ingress Rook Kube

资源配置 - 依赖配置 - 流⽔线配置 配置即代码 : 实现⼤规模交付的部署过程可被验证 PaaS 平台：资源管理，容器编排，基础监控和告警 APM 监控：应⽤诊断，链路追踪，⽇志分析 微服务治理组件 可靠的业务 贴身护航 基础⽀撑 持续保障系统稳定性 只需很少的运维投⼊即可保证系统稳定性 端点⼀站式 PaaS - Erda 第⼆部分 端点 PaaS 发展历程 有状态服务 Redis Kafka ES MQ Minio 中间件 通⽤服务 ⾃定义服务 服务市场 Kubernetes Rancher Openshift 私有云 公共 物理机 虚拟机 微服务治理平台 DevOps 平台 边缘监控 边缘站点管理 制品 快速分发部署 边缘⽇志 边缘计算平台 边缘数据收集 边缘算⼒调度 ⽹络⾃动容错 平台产品 核⼼引擎 容器服务 基础设施 7.23 create_dbs: trade_db erda.yml 定义 - 定义了⼀组服务如何被部署 - 定义了服务之间的依赖 - 定义了服务和中间件的依赖 云原⽣微服务治理 - 兼容 Spring Cloud & Dubbo， 应⽤⽆需改动代码即可接⼊ - 托管的微服务引擎，降低⽤户 运维压⼒ - 可选云服务作为服务引擎 系统监控 System: CPU

微服务合并部署（亲和性部署、sidecar 部署） 2. 本地基础组件：mesh sidecar、风控 sidecar、分布式网关... 方案诞生的背景 微服务化拆分： 1. 序列化 2. 网络开销 3. 服务治理 微服务合并部署 function call remote call 方案诞生的背景 微服务合并形态：sidecar 进程通信 方案诞生的背景 微服务合并形态：亲和性部署 方案诞生的背景 性能收益与业务展望 1. 字节跳动微服务合并部署场景下，部分服务通过接入 RPAL 整体取得了 1-5% 的 CPU 收益， 以及 RPC 链路 1-6ms 的 P99 延迟下降。 2. 将某项 Mesh 提供的治理功能进行同步 RPAL Call，对比同进程 Function Call 仅增加 200 ns 延迟。 业务真实数据 性能收益与业务展望 业务展望 1. 定制化场景深度优化： 同步 RPAL CloudWeGo 是一套由字节跳动基础架构服务框架团队开源的、 可快速构建企业级云原生微服务架构 的中间件集合。 CloudWeGo 项目共同的特点是高性能、高扩展性、高可靠，专 注于微服务通信与治理。 CloudWeGo 包括 Kitex、Hertz、Volo、Netpoll、Monoio、Sonic 等多个重点子项目，涵盖 Go 与 Rust 开发语言， 上至框架下 至网络库、编解码库、序列化库均是自研，各个项目既可独立

RPC 2. 日志 3. 监控 4. 调用链 5. 网关 6. 错误码 7. 配置 8. 云原生 9. 标准化 背景 • Tars是腾讯开源的微服务解决方案 • 高性能的RPC框架 • 丰富的服务治理能力 • 支持Golang/Cpp/Java/PHP/Nodejs • 腾讯内部（TAF）曾经应用最广的开发框架 • Tars应用实践：https://github.com/tarscloud/gopractice 文件读取不全问题（读写冲突） • 使用JSON格式 云原生：TARS上云实践 • K8S+TARS方案：https://github.com/tarscloud/k8stars • 使用Tars名字服务 • 继承服务治理能力 • 使用镜像部署 • K8S的资源调度能力 标准化：提升研发效能 • 接口格式标准化 • 目录标准化 • 服务启动标准化 相关项目 • https://github.com/tarscloud/gopractice

⼩问题容易触发⼤故障 • 能够⽀撑的业务规模有限 微服务的优点 • 边界清晰的业务拆分 • 易开发、易理解、易维护 • 技术栈可相对独⽴ • 持续集成、持续部署更容易 • 按需对服务进⾏治理 • 稳定性更容易保障 微服务的缺点 • 增加了系统复杂度 • 数据拆分复杂度 • 难调试、难测试 • 跨服务修改麻烦 • 部署复杂 到底怎么选？ • ⾸先看业务 •

N个开发⼯具窗⼝来回切，⼀会⼉⾃⼰都蒙圈了；⼀ 个代码仓库有效代码只有⼏百⾏，⼀个脚本搞定的事 情硬是搞出来 n 个服务......（职责划分和架构选型不 合理，为了微服务⽽微服务） • 监控，告警，CI/CD，服务治理，分布式追踪等基础 设施不完善，维护成本⾼（⾃建—>云原⽣） 02 困境 MVC架构 微服务架构的困境与突破 ➢ 构建合理的业务模型（Monolith or Microservice） 1