微服务容灾治理
1. go-zero
稳定性能⼒概览
经过这么多年⼤流量服务端架构设计的沉淀，go-zero
在保护服务的稳定性上下⾜了功夫，不管是
CPU
密集型还是
IO
密集型服务，go-zero
都能很好的保护服务在如下场景不被拖垮或卡死：
• 远超服务容量的突发⼤流量 • CPU
打满
• 上下游故障或者超时 • MySQL、MongoDB、Redis
等中间件故 ） 的均值，所以
CPU
达到
90%
后约
5
秒会触发过载保护。
3.2
系统容量计算
容量计算是第⼆个难点，怎么动态评估系统当前容量是算法的关键点之⼀。计算公式如下： 先解释⼀下各个参数的含义： • maxPass
是当前记录的所有窗⼝⾥⾯最⼤的成功处理的请求数，go-zero
是
100ms
⼀个窗⼝， 记录了
50
个窗⼝，这⾥就是算过去
50
个窗⼝⾥最多成功处理请求的⼀个窗⼝⾥的请求数
统不被打到卡死。
但这⾥有个点需要注意，go-zero
默认设置的过载保护触发的
CPU
阈值是
90%，Kubernetes
HPA
⾃ 动扩容默认
CPU
阈值是
80%，当你在设置这两个参数的时候，不要让
HPA
的
CPU
阈值⼤于
go-zero
的过载保护
CPU
阈值，否则可能会抑制
HPA
的⽣效。
当然整个系统并不是链路上所有服务和中间件都可以⾃动或及时扩容的，这⾥就牵出另⼀个稳定性能

项完整的集成创新技术正式诞生 • 比特币诞生，是世界上首个区 块链应用系统。发展至今有力 地证明了区块链技术的创新性、 颠覆性和顽强的生存能力 中本聪 比特币Bitcoin 2013 • 以太坊发布以太坊白皮书， 引入智能合约，推出首个 图灵完备的区块链平台， 进入区块链2.0时代 以太坊Ethereum 新基建 • Linux 基 金 会 成 立 了 Hyperledger开源项目，IBM、 Intel、摩根大通等企业加入，开 趣链科技 版权所有 ©2016-2021 9 趣链科技 版权所有 ©2016-2021 9 趣链科技 版权所有 ©2016-2021 9 区块链价值定位 区块链作为新基建基础设施之一，是大数据、人工智能、云计算、物联网等其他新型技术的黏合剂，各项技 术相互促进，融合发展，共同开创更大价值空间，加快新兴技术商业落地 利用区块链的去中心化、数据 不能篡改的特性，解决制约云 计算发展的“可信、可靠、可 融入大数据采集和共享中，作 为数据源接入大数据分析平台。 强化分布式数据存 储和边缘计算能力， 拓展物联安全边界 和应用范围。 为训练深度学习系统提供可信数据， 优化分析决策的准确性和可信性。 人工智能 区块链 云计算 物联网 大数据 10 趣链科技 版权所有 ©2016-2021 10 趣链科技 版权所有 ©2016-2021 10 趣链科技 版权所有 ©2016-2021 10 区块链组织形态

资源配置 - 依赖配置 - 流⽔线配置 配置即代码 : 实现⼤规模交付的部署过程可被验证 PaaS 平台：资源管理，容器编排，基础监控和告警 APM 监控：应⽤诊断，链路追踪，⽇志分析 微服务治理组件 可靠的业务 贴身护航 基础⽀撑 持续保障系统稳定性 只需很少的运维投⼊即可保证系统稳定性 端点⼀站式 PaaS - Erda 第⼆部分 端点 PaaS 发展历程 有状态服务 Openshift 私有云 公共 物理机 虚拟机 微服务治理平台 DevOps 平台 边缘监控 边缘站点管理 制品 快速分发部署 边缘⽇志 边缘计算平台 边缘数据收集 边缘算⼒调度 ⽹络⾃动容错 平台产品 核⼼引擎 容器服务 基础设施 数仓设计 数据智能平台 智能预测 智能客服 智能仓储 智能推荐 流程⾃动化 智能营销 快数据平台 Linux OS, Kernel 7.23 create_dbs: trade_db erda.yml 定义 - 定义了⼀组服务如何被部署 - 定义了服务之间的依赖 - 定义了服务和中间件的依赖 云原⽣微服务治理 - 兼容 Spring Cloud & Dubbo， 应⽤⽆需改动代码即可接⼊ - 托管的微服务引擎，降低⽤户 运维压⼒ - 可选云服务作为服务引擎 系统监控 System: CPU

灰度 发布 定时弹性 事件 指标弹性 分批发布 重启 回滚 日志管理 事件中心 指标监控 存储挂载 服务绑定 手动弹性 回退历史 负载均衡 报警 诊断 组件管理 服务治理 … 权限 K8s Istio Envoy Tekton Argo KEDA ES InfluxDB Promethues Knative Ingress Rook Kube FaaS + BaaS • GitOps-自动化 • ServiceMesh-下一代分布式应用编程模式 • 应用运维可编程 • 多元化（云，工作负载，服务） • 平台 • 可观测是重中之重 • 智能化-AIOps • 一体化-扩展屏蔽基础设施 • 轻量化-下沉 • 自动化-端到端 Thanks

法，数据联邦化训练，充 分释放数据价值 02 隐私计算平台 架构 趣链科技版权所有©2016 – 2021 9 平台体系 • 区块链协同层 数据共享⽬目录，数据确权授 权、追溯审计以及联盟治理理 • 隐私计算⽹网络 多节点通过p2p组⽹网，并基于安 全多⽅方计算、联邦学习、可信执 ⾏行行环境按照数据隐私密级进⾏行行价 值共享 • 业务应⽤用层 基于SDK接⼊入上层业务系统 Hellman密钥交换思想，求双⽅方集合的交集，保护交集之外的数据 数据集 A = {a1, a2, …, an} 1.1随机⽣生成秘钥p，公共参数N 1.2加密数据集A的每个元素 fp(A) = {fp(a1), fp(a2), …, fp(an)} 秘钥K，公共参数N，加密函数 ，满⾜足交换律律 = = = fK(x) = xKmod N fpq(x) fq(fp(x)) fp(fq(x)) 趣链科技版权所有©2016 – 2021 25 隐私计算算法框架-元函数异步执⾏行行实现 扫描依据：缓存中存在元函数的所有⼊入参 删除扫描出的元函数⼊入参对应的缓存 元函数⼊入参类型重复，框架⽆无法区分注⼊入参数 元函数⼊入参类型重复，通过new type模式区分 趣链科技版权所有©2016 – 2021 26 隐私计算算法框架-元函数异步执⾏行行实现 通过反射call元函数，由于是独⽴立协程，在⽣生产环境下，需要开启recover

Edge AI • 随着大模型的发展，AI 计算对算力需求大 幅且快速增长 AI应用到越来越多的边缘场景 分布式协同AI 概念 将人工智能相关的部分任务部署到边缘设备，基于边缘设备、边缘服务 器、云服务器，利用分布式乃至分布式协同方式实现人工智能的技术 数据在边缘产生 边侧逐步具备AI能力 分布式协同AI 核心驱动力 分布式协同AI核心驱动力 • 随着边侧算力逐步强化，边缘AI持续演变至分布式协同AI 管理 联邦学习 管理 Local Controller Worker Worker Worker 边侧推理 Lib 边侧训练 Model Worker 云侧 推理 Lib 参数 聚合 云侧 训练 Model Global Manager AI任务协调 AI任务管理 模型/数据集管理 Cloud Node Messaging over KubeEdge 终身学习 开发者：导入边缘AI Lib库, 开发边云协同联邦学习程序。 ② 启动联邦学习任务，部署训练 程序到边缘 ③ 多任务检测，划分Non-IID样本集，与云端配合识别相似任务 ④ 本地训练，模型参数上传云端，云端运行跨边迁移+模型聚合算法。 Cloud EdgeNode 1 EdgeNode 2 Sedna Federated-Learning Service API model

§ 协议数量多 § 耦合性高 § 潜在bug多 重构 or 重新推倒？ 背景 现实世界是怎么样的 分布式、并发 职能化、松散化 自组织、智能化 程序框架是否也可以这样？ OOP v C++对象代码运行 § 有属性（成员变量）、有行为（成员函数） 没有可以独立执行的机制 § 有属性（成员变量）、有行为（成员函数） 借助其他线程运行 AOP AOP （agent-oriented programming） Agent：智能体、职能代理。源于分布式人 工智能（DAI） 1、自主的、智能的 2、具有社会性（与环境通信） 3、反应能力，理解环境并对环境刺激做出 适应的反应 4、主动性，不是简单的反应，而是有目的 的反应 5、一般agent处在分布式网络中，行为具 对应于与客户端的一个连接，通过协议进行 通信。通过任务模块再来进行文件模块的读 写，将数据发送给客户端 6、下载模块 如何识别热点？群体智能 群体智能 蝗虫行为 1、跟随前面的蝗虫 2、和周围的蝗虫步伐保持一致 3、与后面的蝗虫保持距离 博得三规则 1、避免（碰撞）：避免碰撞到其他个体

第16章：结构体 第17章：值部 - 为了更容易和更深刻地理解Go中的各种值 第18章：数组、切片和映射 - Go中的首要容器类型 第19章：字符串 第20章：函数 - 函数类型和函数值，以及变长参数个数函数 第21章：通道 - Go特色的并发同步方式 第22章：方法 第23章：接口 - 通过包裹不同具体类型的非接口值来实现反射和多态 第24章：类型内嵌 - 不同于继承的类型扩展方式 第25章：非类型安全指针 有什么其它值得一提吗？ 本书不涵盖自定义泛型相关内容。 请阅读《Go自定义泛型101》 ? 一书来了 解使用自定义泛型。 另外，在阐述值类型转换、值赋值和值比较规则时，自定义泛型中频繁使用的 类型参数类型被特意忽略掉了。 也就是说，本书不考虑自定义泛型中的情 形。 本书由老貘 ? 历时三年写成。目前本书仍在不断改进和增容中。你的赞赏是 本书和Go101.org网站不断增容和维护的动力。 赞赏 Go是一个相当不错的选择。 目前，Go主要用于网络开发、系统工具开发、数 据库开发和区块链开发。 随着从Go 1.18开始支持自定义泛型，预期Go会在更 多开发领域流行起来，比如图形界面、游戏、大数据和人工智能等。 最后，我们应该知道，没有一门语言是完美的。Go也一样。Go的设计中有很 多折衷和各种权衡。Go 1确实有一些不足。 比如，目前Go不支持任意类型的 不变量。这导致很多标准库中一些希望永不被更改的值目前被声明为变量。这

第15章：指针 第16章：结构体 第17章：值部 - 为了更容易和更深刻地理解Go中的各种值 第18章：数组、切片和映射 - Go中的首要容器类型 第19章：字符串 第20章：函数 - 函数类型和函数值，以及变长参数个数函数 第21章：通道 - Go特色的并发同步方式 第22章：方法 第23章：接口 - 通过包裹不同具体类型的非接口值来实现反射和多态 第24章：类型内嵌 - 不同于继承的类型扩展方式 第25章：非类型安全指针 有什么其它值得一提吗？ 本书不涵盖自定义泛型相关内容。 请阅读《Go自定义泛型101》 一书来了解 使用自定义泛型。 另外，在阐述值类型转换、值赋值和值比较规则时，自定义泛型中频繁使用的 类型参数类型被特意忽略掉了。 也就是说，本书不考虑自定义泛型中的情形。 本书由老貘 历时三年写成。目前本书仍在不断改进和增容中。你的赞赏是本 书和Go101.org网站不断增容和维护的动力。 （请搜索关注微信公众号“Go Go是一个相当不错的选择。 目前，Go主要用于网络开发、系统工具开发、数 据库开发和区块链开发。 随着从Go 1.18开始支持自定义泛型，预期Go会在更 多开发领域流行起来，比如图形界面、游戏、大数据和人工智能等。 最后，我们应该知道，没有一门语言是完美的。Go也一样。Go的设计中有很多 折衷和各种权衡。Go 1确实有一些不足。 比如，目前Go不支持任意类型的不变 量。这导致很多标准库中一些希望永不被更改的值目前被声明为变量。这是Go

第16章：结构体 第17章：值部 - 为了更容易和更深刻地理解Go中的各种值 第18章：数组、切片和映射 - Go中的首要容器类型 第19章：字符串 第20章：函数 - 函数类型和函数值，以及变长参数个数函数 第21章：通道 - Go特色的并发同步方式 第22章：方法 第23章：接口 - 通过包裹不同具体类型的非接口值来实现反射和多态 第24章：类型内嵌 - 不同于继承的类型扩展方式 第25章：非类型安全指针 请阅读《Go自定义泛型101》 （https://gfw.go101.org/generics/101.html）一书来了解使用自定义泛型。 另外，在阐述值类型转换、值赋值和值比较规则时，自定义泛型中频繁使用的类型 参数类型被特意忽略掉了。 也就是说，本书不考虑自定义泛型中的情形。 本书由老貘历时三年写成。目前本书仍在不断改进和增容中。你的赞赏是本书和 Go101.org网站不断增容和维护的动力。 赞赏 （请搜索关注微信公众号“Go 个相当不错的选择。 目前，Go主要用于网络开发、系统工具开发、数据库开发和区 块链开发。 随着从Go 1.18开始支持自定义泛型，预期Go会在更多开发领域流行起 来，比如图形界面、游戏、大数据和人工智能等。 第2章：Go语言简介 10 最后，我们应该知道，没有一门语言是完美的。Go也一样。Go的设计中有很多折衷 和各种权衡。Go 1确实有一些不足。 比如，目前Go不支持任意类型的不变量。这导