servicecomb.apache.org github.com/apache?q=servicecomb 支持10万TPS的高性能服务间通信解读 刘宝 2 github.com/apache?q=servicecomb servicecomb.apache.org 刘宝，华为微服务开发专家，Apache ServiceComb Committer。 拥有10年以 上java开发框架的开发和运维经验。热爱微 eout: [schemaId]: [operationId]: 30000 6 github.com/apache?q=servicecomb servicecomb.apache.org 性能模式 servicecomb.apache.org github.com/apache?q=servicecomb Copyright©2018 Huawei Technologies Co.

q=servicecomb servicecomb.apache.org ServiceComb 项目介绍 • Java Chassis 高性能的微服务框架，提供服务注册发现以及动态配置管理，以及限流降级， 容错熔断等服务治理功能 • Service Center 基于Etcd高性能，高可用服务注册中心 • Pack (Saga) 微服务事务最终一致性问题解决方案，提供一个集中式的事务协调器，协调微 服务之间的事务调用，保证事务最终一致性 通过投票的方式进行决议 • 投票规则 voting rule • 赞成 ＋1， 弃权 0， 反对 -1 • 一般会持续 72小时 • 对于产品发布， 需要大于等于3票+1通过 • 反对票需要提出相应的改进建议 – 共识决策 • 决策之前要充分讨论 • 通过懒式方式达成共识 – 新的Committer或者PPMC成员是通过投票产生的 https://incubator.apache.org/guides/community Java Chassis 1.0.0 正式稳定版本发布 自动生成脚手架工程 支持Http2协议 自定义ping机制 Saga 0.1.0 分布式Pack原型 Pack 0.3.0 优化后台性能 支持多种分布式协调机制 多语言框架Omega 2017年12月 2018年3月 2018年8月 2018年6月 2018年10月 ServiceComb（Apache之旅） Saga 0

http://servicecomb.apache.org [Github ] https://github.com/apache?q=servicecomb 一种思想运动 用户可以自由地运行，拷贝，分 发，学习，修改并改进该软件 一旦在该软件基础上修改，则必 须保证修改后的软件也“自由” 开源发展第一阶段 [社区网站] http://servicecomb.apache.org [Github ] https://github com/apache?q=servicecomb 项目名 项目简介 编程语言 servicecomb-java-chassis 开箱即用、高性能、融合流行生态的Java微服务开发套件，用户开发微服务的基础组件 Java servicecomb-service-center 高性能、高可用、无状态的分布式服务注册与发现中心，帮助用户管理微服务 Golang servicecomb-pack 分布式事务解决方 理成本高、拼接复杂和无法扩展问题 Golang servicecomb-toolkit 遵循OpenAPI的微服务开发工具，一键式生成微服务代码 Java servicecomb-fence 高性能、安全的微服务认证鉴权框架 Java servicecomb-samples 微服务应用案例集 Java servicecomb-docs Apache ServiceComb用户手册 CSS

独立运行  • 轻量级通信机制  • 独立的部署  • 去中心化 • 要多小？  • 怎么部署？  • 出错怎么办？  • 如何保证一致性 玩得起微服务的条件 持续改进的⾃自组织⽂文 快速响 Tall enough 服 务 ⾃自 演 进 2009年 2012年初探微服务 2014年⿊黑暗时代 2015年服务治理 2016年新的征程 背景介绍 3 所有⼈人？ 康威定律 设计⼀一个系统的任何组织所产⽣生 的设计和架构都等价于其组织间的 沟通结构。 —Melvyn Conway, 1967 康威逆定律 逐渐改进你的团队和组织结构 来促进你所渴望的软件系统架构。 —Sam Newman • 服务足够小  • 独立运行  • 轻量级通信机制  • 独立的部署  • 去中心化 微服务架构特性 上线发布 运营 持续交付 持续改进 建⽴立闭环反馈系统 � � � � � � � � � � � � DevOps 这样就⾜足够了吗？ 快速响应 ⼀一个具有快速复原能⼒力， ⼀一个具有持续改进⾃自组织⽂文化的团队！ Podcast-�� ���� ���� 2014 2012 2015 持续改进的⾃自组织⽂文化 总结 持续改进的⾃自组织⽂文 快速响 Tall

http://servicecomb.apache.org [Github ] https://github.com/apache?q=servicecomb 一种思想运动 用户可以自由地运行，拷贝，分 发，学习，修改并改进该软件 一旦在该软件基础上修改，则必 须保证修改后的软件也“自由” 开源发展第一阶段 [社区网站] http://servicecomb.apache.org [Github ] https://github

美团点评微服务框架及治理系统:1?: 演进g路 曹继光 美团点评 资深技术a家 ��� �������������� W &0%(年加入美团，先后负责 服务框架及治理v系、性能 q化、S3?化等方向 W 经历h美团服务治理v系l0 到%，再到发展完善的各c阶 段 W 服务治理系统:1?:演进及架构设计 W 美团点评服务治理实践 W :1?:在SEPTIDE MEQh 青铜 Ø 基础能力达标 铂金 Ø 性能一流 Ø 足n支撑数百万订单量级b务 Ø 易用性q秀 服务治理演进各c阶段 服务治理实践(%)：基础能力达标 - 青铜段t 监控报警 数据分析 • 性能指标 • 来源去向 • f机分析 • 数据报表 • 调用链路 • 节点监控 • 性能监控 • b务监控 • 异常监控 服务治理实践(3) +易用性 V 细粒度埋点监控 Client� Server� :1?:服务框架最大性能 • (核(4，%K数据包3DhM测试 • 原则：框架自身不造成应用瓶颈 服务治理实践(() +性能提升 - 铂金段t 系统化性能q化实践 V 一站式性能q化平台SDBJNEJ 流程化、自动化 零门槛、u成本 点击&次鼠标 6分钟出诊断报告 诊断对服务负面影响小，支持

从集成角度看，希望可以灵活的不Spring Boot等框架集成 微服务框架技术选型-高性能、低时延  硬件成本已经是白菜价，软件性能丌重要？  消费者云业务服务集群规模大，单点的性能提升能够带来巨大收益  从用户体验看，端到端时延非常重要，分布式乊后带来的时延增加，是一个很大的挑戓  丌是所有业务都有苛刻的性能需求，丌同业务对性能的诉求丌同， 可以按需选择协议和传输方式，服务不传输协议、序列化方式解耦 CSE在消费者云业务的实践-服务调用高性能 CSE的高性能设计：  提供Rest和Highway RPC两种通信协议，满足 丌同业务场景  高性能的Rest：集成Vertx,底层基于Netty，性 能比传统Servlet NIO性能高X倍  Highway RPC：采用Netty + PB，既支持多语 言，又保证高性能  高性能幵发设计：线程绑定技术，网络I/O线程

• 更容易实验和采纳新的技术。 强大： • 使大型的复杂应用程序可以持续的交付和持续的部署。 • 更容易测试 • 更容易对已有大型系统进行修改和扩展 • 容易进行的性能优化 • 更高的可用性 • 更容易的进行性能伸缩性 适合同学们学习 Demo也可以作为生产系统的一部分 [社区网站] http://servicecomb.apache.org [Github ] https://github ，无法做出高质量的拆分。 不同的业务，涉及的不同的服务间通信有不同的要求 1. 关注事务性要求（ACID） 2. 关注对性能的要求 举例：客户维护和订单是2个微服务，订单系统对性能有较高要求，所以可以考虑把购房资格信息从客户维护微服务同步到订单系统，改同步动作 对性能没有要求，对事务性有要求。 常见的服务间通信模式：同（异)步通信，API组合，基于MQ的异步通信 事务性： saga, 背景：因为竞争的加剧，电商系统越来越复杂，无论电商系统的规模大小，微服务几乎是事实标准。 12306网站 15年 峰值 1032 单/s 11.7w PV 电商“抢购”“场景中企业中遇到的困难 1. 性能要求不断优化，和不能引入Bug之间的矛盾。 2. “变态”级别的高可用性要求。 3. 声誉和法律风险。 4. 抢购体验 à 商家的技术能力 à 产品质量。 [社区网站] http://servicecomb

• ⽆无需多种语⾔言的微服务框架开发 • 对业务代码0侵⼊入 • 不适合改造的单体应⽤用 • 开发出开的应⽤用既是云原⽣生的⼜又具有独⽴立性 没有银弹 • 新的故障点 • ⼀一定程度的性能降低 • 侵⼊入式框架有更强的定制和扩展能⼒力 • 部署复杂性 • 简介 • 实现⼀一个Service Mesh • 使⽤用Service Mesh快速构建微服务 • ⽣生态与扩展 • Zipkin Huawei APM Prometheus Grafana Physical Kubernetes Design Goal • 尽可能提供定制化 • 减少对业务影响 • ⾼高性能 • 使服务可视化 • 使服务更具弹性 Data Plane 即Mesher组件本⾝身，对所有请求进⾏行处 理 • 注册发现服务 • 执⾏行路由策略 • 负载均衡 • 透明TLS传输 CSE 性能对⽐比 Mesher1.0 Istio 0.1.6（Envoy） Linkerd1.1.3 Latency(ms) 17.2 465 34.7 TPS 8264 388 4235 CPU 300% 170% 310% Memory 35M 20M 196M 并发 20 20 20 4U8G 与ServiceComb侵⼊入式框架对⽐比 Mesher与普通应⽤用性能对⽐比

osp-client� osp-proxy� osp-container� ������ RPC��� ������ ����� ���� ����� ���� ����� 142高性能服务化框架l势 ��� • ������ • ����������� • �������Load Balancer ���� • 4�Thrift�Netty • ����QPS ü 43L性能指标 ü 拓扑s赖关系和性能指标 ü 调用链检索Q通过W务关键字） ü 慢调用查询 ü 失败调用查询Q4NNT5NN） ü 调用链详情展示 监控告警 全链路监控/eIcLIO核心jv 应用开发c员 I5运维T监控中心c员 应用管理c员 • 快速故障告警和问题定o • 把握应用性能和容量评n • 提r可追溯的性能数据 • 定o线U服务性能瓶颈 定o线U服务性能瓶颈 • 持续l化g码和43L • 帮助快速解决线U问题 • 全方o把握应用整p拓扑结构 • 定o全网应用瓶颈 • 帮助l化关键W务 全链路监控/eIcLIO架构 Web FDLEe AgeFK 接y层 A22 数据源 CafCa 集 群 实时计算层 4HaIC 集 群 OpenTSDB� Elas-c