作为整个微服务系统对外的接口，向最终用户提供服务，接入RESTful请求，转发给内 部微服务 • 基于ServiceComb标准consumer流程转发请求到内部微服务，所有consumer治理能力， 不必独立开发，直接重用 ELB Edge Service Backend ...... Edge Service ...... Backend Edge Service-自动路由1 Edge URL规划为：/{pef URL规划为：/{pefix}/{microserviceName}/{v1/v2/......}/path • 第一个segment为固定前缀，表示这是一个微服务调用，可用于让前置LB识别这是一个需要转发到edge的请求 这里假设前缀为rest • 第二个segment为微服务名 • 第三个segment表示兼容规则，v1表示调用1.0.0-2.0.0的微服务,v2表示2.0.0-3.0.0的微服务 如果内部微服务URL规则为： rest withVersion: true prefixSegmentCount: 3 Edge Service-自动路由2 有的场景下，业务是从传统应用移植过来的，有的URL已经固定，并且不满足自动路由规则，此时必须考虑兼容问题 对于这些不规则的URL，可以追加通过枚举的方式来指定路由规则 servicecomb: http: dispatcher: edge: url: enabled:

SDK Service VM Bare metal CCE ServiceStage API gateway Data Plane 即侵入式框架与非侵入式 mesher • 注册发现 • 执行路由策略 • 负载均衡 • 透明TLS传输 • 生成监控数据 6/30/2018 Mesher ServiceC Java SDK ServiceD Go SDK ServiceA Governance API server Prometheus Zipkin 功能与实现原理 多协议支持 • 任意协议请求都被抽象为Invocation模型进行处理，最终再转换 为协议请求转发 6/30/2018 Http Request Grpc Request Transfer Invocation Http Server Grpc Server Transfer Http center 基于微服务元数据的路由管理 • 匹配请求者header • 匹配请求者元数据信息 • 按权重引流 • Router使用统一配置模型，支持插件对接不 同生态 6/30/2018 Request 请求特征： • Service Name • Headers • Consumer metadata Resolve 决定要访问的服务名后即可开 始匹配路由规则，比如 • 系统中稳定运行着A服务，

Confidential 9 基于微服务元数据的路由管理 • 匹配请求者header • 匹配请求者元数据信息 • 按权重引流 • Router使用统一配置模型，支持插件对接不同生态 请求特征： • Service Name • Headers • Consumer metadata Resolve 决定要访问的服务名后即可开 始匹配路由规则，比如 • 系统中稳定运行着A服务， 版本是1 以定义Header带有device- os=android就将95%流量转 移版本为1.0的实例中，5% 转移到1.1版本 • 请求者的元数据中带有 env=production，那么要将 路由到元数据中带有 env=production的实例中 基于元数据的路由管理十分灵 活，可以满足用户大部分场景 Router Resolver Target Service Infos: Service name Metadata 拥抱Istio生态 - 为Istio数据面提供新的可能性和选择，使用mesher替代Envoy。 - 并将go chassis接入到Istio，为istio提供侵入式框架 - 不使用Iptables转发 - 不接入Mixer服务，而是直接接入不同生态系统 13 Huawei Confidential Kubernetes Master 14 部署-社区方案 Kubernetes Node

• 使⽤用Service Mesh快速构建微服务 • ⽣生态与扩展 • Service Mesh在华为内部的技术演进 我们在构建微服务，⽽而构建微服务是困难 的 微服务架构模式引⼊入的问题 路由规则 • 引流 • ⽀支持权重 • 根据消费者信息或请求特征进⾏行引流 Consumer 0.2 Provider 1.2 Provider 1.3 80% 20% Consumer 尽可能提供定制化 • 减少对业务影响 • ⾼高性能 • 使服务可视化 • 使服务更具弹性 Data Plane 即Mesher组件本⾝身，对所有请求进⾏行处 理 • 注册发现服务 • 执⾏行路由策略 • 负载均衡 • 透明TLS传输 • ⽣生成监控数据 Mesher ServiceC Mesher ServiceD Mesher ServiceA Mesher ServiceB 可定制 固定组件 Transport Transport Source Resolver 多协议⽀支持 • 任意协议请求都被抽象为Invocation模型进⾏行处理，最终再转换为协议请 求转发 Http Request Grpc Request Thrift Request Transfer Invocation Http Server Grpc Server Thrift

SDK a) https://github.com/apache/servicecomb-java-chassis b) 和服务注册中心通信，共同维护表 • 网关 a) 对外提供固定地址，提供路由转发功能 b) 网关固定IP:端口/服务名/URL -> 服务动态IP:端口/URL (网关固定IP:端口/A服务名 =A服务动态IP:端口) 注册中心 ServiceCenter SDK SDK com/apache/servicecomb-mesher 多语言解决方案 c) 重试 d) 负载均衡 e) 限流 f) 降级（隔离、熔断、容错） g) 分布式跟踪 • 网关 a) 路由 b) 黑白名单 c) 和认证鉴权集成 [社区网站] http://servicecomb.apache.org [Github ] https://github.com/apache?q=servicecomb

SDK a) https://github.com/apache/servicecomb-java-chassis b) 和服务注册中心通信，共同维护表 • 网关 a) 对外提供固定地址，提供路由转发功能 b) 网关固定IP:端口/服务名/URL -> 服务动态IP:端口/URL (网关固定IP:端口/A服务名 =A服务动态IP:端口) 注册中心 ServiceCenter SDK SDK https://github.com/apache/servicecomb-mesher 多语言解决方案 c) 重试 d) 负载均衡 e) 限流 f) 降级（隔离、熔断、容错） • 网关 a) 路由 b) 黑白名单 c) 和认证鉴权集成 [社区网站] http://servicecomb.apache.org [Github ] https://github.com/apache?q=servicecomb

还款 大促的痛 机器准备周期长，紧急 情况无法应对 大促后机器闲置率高，资 源浪费巨大 混合云需求分析 机器资源按需 申请 01 接入层按url调 度流量 02 服务层set化的 路由策略 03 数据层读请求 上云，写请求 回自建idc 04 流量大户上云，顶住流量洪峰 机器器资源按需分配 接入层URL粒度流量调度 LB DNS app/browser Nginx-Proxy 安全防护 自建IDC 云IDC WAF WAF https://order.lexin.com/create https://order.lexin.com/query 服务化框架的单元化路由 自建IDC 云IDC 全站服务 registry 上云服务 混合云 自 建 机 房 all_service data(r/w) web data_proxy 云 机 房 read_service _ConfigCenter biz_config dba_config2 S biz-config dba-config1 biz-config dba-config2 MQ缺乏单元化路由能力 中心机房 namesrv 单元机房 producer broker- master broker-slave consumer namesrv broker- master

Safety 面临的问题 • 企业应用和互联网应用的不同？ • 如何做到不同ISV的应用互联互通统一管理？ • 怎么才能加快微服务的开发？ • 微服务化后如何保证性能？ • 如何进行统一的路由控制？ 企业应用和集成 Java 注册中心、治理中心 Go 服务 契约 生成工具 框架 代码 框架 代码 框架 代码 接口 文档 接口 文档 接口 R R W W 线 程 池 •异步 • 标准、开放、协议健壮性 • 开发框架的性能在于细节，而不仅仅 是协议。 更细致的服务路由管控 ETCD 集群 服务中 心实例 服务中 心实例 服务中 心实例 • 统一的路由策略管控 • 缓存以提升性能 •支持pull/push两种模式监控实例变化 • 实例动态扩容，海量的长连接或者短连接 • 支持灰度发布、服务分组等高级管理特性

 服务框架丌能只单单解决分布式RPC调用、服务注册&发现和路 由问题，更重要的是业务微服务上线乊后，需要提供实用和丰富 的在线治理能力  流量控制、幵发控制、超时控制、服务降级、服务熔断、路由权 重调整…  常用的服务治理能力要内置到服务框架中，业务领域强相关、非 通用能力可以通过扩展点实现 微服务框架技术选型-易集成  当前业务使用Spring MVC等传统的单体架构，希望可以较平滑、 JAX-RS  透明RPC CSE在消费者云业务的实践-可靠性 1、分布式服务化本身引入的潜在故障点： 2、微服务第三方依赖潜在故障点： CSE的可靠性设计：  集群容错，自劢路由  服务中心、配置中心无状态集群，宕机丌影响已有业务  支持服务级故障隔离  支持多链路和链路级故障隔离  支持服务熔断和降级，以及第三方故障隔离（集成Hystrix）

微服务描述信息，让使用者可以快速了解到业务范畴等 4. 微服务访问契约内容，API能力的描述文件 5. 微服务扩展属性，添加具体业务扩展属性 6. 微服务黑白名单，支持Provider侧设置路由策略 7. 微服务标签，支持按标签检索 高可用性保障 互联网分布式系统设计的准则：BASE 1. Basically Available（基本可用） 2. Soft state（软状态）