⽥田晓亮 华为架构师 ⽥田晓亮 华为 架构师 8年软件⾏行业经验，曾就职于三星，2012年进⼊入云计算领域，对PaaS， DevOps，APM有深⼊入的研究和实践经验。⽅方案⽀支撑近千台VM中应⽤用部署管理监 控 2016年加⼊入华为担任架构师，负责微服务的Go语⾔言开发框架及Service Mesh设计 和落地，Go语⾔言微服务框架被华为5G核⼼心⺴⽹网络采⽤用，Service Mesh服务商⽤用上 • ⼀一种基础设施层，服务间的通信通过 Service Mesh进⾏行 • 可靠地传输复杂⺴⽹网络拓扑中服务的请 求，将服务变成现代的云原⽣生服务 • ⼀一种⺴⽹网络代理的实现，通常与业务服 务部署在⼀一起，业务服务不感知 • ⼀一种TCP/IP之上的⺴⽹网络模型 Application Service Mesh Transport Network Physical Application 对业务代码0侵⼊入 • 不适合改造的单体应⽤用 • 开发出开的应⽤用既是云原⽣生的⼜又具有独⽴立性 没有银弹 • 新的故障点 • ⼀一定程度的性能降低 • 侵⼊入式框架有更强的定制和扩展能⼒力 • 部署复杂性 • 简介 • 实现⼀一个Service Mesh • 使⽤用Service Mesh快速构建微服务 • ⽣生态与扩展 • Service Mesh在华为内部的技术演进 第⼀一代：基于Nginx的微服务代理

为⽤用户提供最终价值 • 每个服务运⾏行行在其独⽴立的进程中，服务间采⽤用轻量量级的通信机制协作（通常是基于RESTful API） • 每个服务都围绕着具体业务进⾏行行构建，并且能够被独⽴立的部署到⽣生产环境、类⽣生产环境等 Microservices – the new architectural style. Martin Fowler,Mar 2014 ...... Micro https://www.continuousdelivery.com/ • 缩短交付周期 • 降低发布⻛风险 • 质量量内嵌 组织协同 环境管理理 数据管理理 松耦合架构 反馈验证 持续集成/部署 内建质量量 微服务架构是松耦合架构机制的⼀一种实现 为什什么基于DevOps？ ● Communication ● Automation ● Measuring ● Sharing 测试策略略与应⽤用 应⽤用部署⾃自动化（包/映像/容器器） 容器器部署 映像部署 包部署 ⾃自动化“⼀一切” - 基础设施与部署流程 议题 • 微服务架构的核⼼心 • 微服务架构设计原则 • 微服务架构⽣生态系统 • 分布式系统复杂性 • 服务的治理理与维护 • 测试策略略与契约测试 • 持续交付流⽔水线 • 基础设施(私有云/公有云) • 持续集成/持续部署流⽔水线 • 团队的敏敏捷/⼯工程化实践

无法做到永远在线，大版本升级时，要停机中断服务 微服务化的应用构建和发布 产品发布计划 产品发布计划 产品发布计划 产品发布计划 开发 部署到生成 环境 部署到生成 环境 开发 开发 部署到生成 环境 部署到生成 环境 部署到生成 环境 开发 开发 bugs 旧版本持续运行 Speed & Safety 面临的问题 • 企业应用和互联网应用的不同？ 运行模型 还远远不止这些… 部署/启 动 日志/监 控 告警 诊断 治理/配 置 扩容 缩容 回滚 停止/卸 载 微服务运维生命周期 管理 创建 编码 编译 构建 部署 测试 验收 发布 删除 微服务开发生命周期 管理 从软件到服务 微服务治理 微服务部署平台（PaaS） 微服务开发 微服务基础治理 级 服 务 隔 离 容 量 预 测 微 服 务 安 全 工具链生态 契约开发 工具 代码自动 生成 文档自动 生成 自动测试 工具 本地远程 调试 微服务 流水线 资源管理 容器编排 & 调 度 应用管理 弹性伸缩 灰度发布 监控运维APM Go语言 XXX语言 Java语言 服务契约 & OpenAPI

 技术选型：统一的微服务框架技术选型，涵盖微服务框架 、微服务流水线（CI/CD）、微服务自动化运维和部署框架  组织赋能：拉通设计、开发、测试和运维的跨团队培训、 技术方案试点、案例分享、 ServiceComb统一预警体系，不 同业务部门之间的合作和协同  服务化地图：业务部署上线后，对业务微服务API进行基 线化，并发布服务化地图，涵盖微服务的划分原则、微服务 流水线地址、微服务SLA指标等 统的同步服务调用，性能更高（吞吐量N倍+提升、时延降低 为原来的50%-）  轻量级、易集成：可以方便的与Spring MVC、Tomcat等 已有技术和容器集成，支持轻量级的standalone部署  服务治理：可商用的服务治理能力  成熟和商用支持：Apache孵化项目，公司内部大规模使 用，专职的团队支撑 微服务框架 RPC框架 跨语言：  gRPC  Thrift 定义，通过 ServiceComb提供的工具生成不同语言的类库，客户端可以不导入服务 端的类库定义，双方互相解耦  微服务接口测试：测试基于流水线的API定义生成自动化测试用例， 防止开发本地随意修改API  微服务API依赖关系：通过微服务流水线编译、打包和系统集成 测试，识别并展示微服务API之间的依赖关系（我依赖谁、谁依赖我）  API变更管控：API变更邮件通知和审批，每日微服务流水线构建，

Mesh的思考及在华为云 的实践 田晓亮 6/30/2018 9年软件⾏业经验，曾就职于三星，2012年进⼊云计算领域，对 PaaS， DevOps，APM有深⼊的研究和实践经验。⽅案⽀撑近 千台VM中应⽤部署管理监控 。华为云微服务引擎Mesher作者。 华为 架构师 田晓亮 website: http://servicecomb.incubator.apache.org/ gitter: https://gitter 6/30/2018 什么是Service Mesh • 一种基础设施层，服务间 通信通过Service mesh进 • 一种TCP/IP之上的网络模 型行 • 一个轻量的网络代理，与 业务部署在一起 • 可靠的传输复杂网络拓扑 中的服务请求，将服务变 为现代的云原生服务 Website: http://servicecomb.incubator.apache.org/ Gitter: Istio CSE Admin API • 独立监听端口 • 微服务健康 • mesher版本 • 路由信息 • Prometheus格式Metric数据 6/30/2018 透明的平台体验 • 部署容器应用时只需勾选以启用Mesher 6/30/2018 背后发生了什么？ • 为应用容器设置环境变量http_proxy • 为mesher设置CSE地址（注册中心， 配置中心） • 为mesher对接APM

体 应用的黑盒调用（本地Java方法调用）转变成透明的API契约调用  服务自治：通过在线的微服务治理结合云平台，可以实现微服务的弹性伸缩、故障自劢 迁移、降级熔断等，保障微服务的运行质量，提升业务SLA  建立服务化团队：随着业务的丌断拆分，大的研发团队也会被拆分成2-Pizza Team， 微服务团队由3-5人组成，负责整个微服务的设计、开发、测试、部署运维和治理，通过 全功能团队的建设，让业务真正敏捷起来  高性能幵发设计：线程绑定技术，网络I/O线程 绑定后端的服务调度线程，最大限度减少锁竞 争。采用连接池机制，重用已有的连接 CSE在消费者云业务的实践-分布式事务 1、服务化乊前本地事务： 2、服务化乊后引入分布式事务： 解决方案：CSE提供数据最终一致性方案-Saga CSE在消费者云业务的实践-服务治理能力 为什么需要服务治理：  随着业务的发展，服务越来越多，如何协调线上运行的各个 服务的高效、 健康运行 部分服务治理配置项： CSE在消费者云业务的实践-更多实践 调用链跟踪，不Zipkin集成，自定义调用链打点 集成Nginx做边缘服务（API接入） 本地开发不调试 分布式配置服务 HTTP/2 安全，HTTPS… • 线上： – 关注微信公众获取信息 – 加入微信群进行交流 – 通过邮件列表参不讨论 – 通过Github发起PR

Service Mesh - 2017年由William Morgan提出 - 一种基础设施层，服务间通信通过Service Mesh进行 - 一种TCP/IP之上的网络模型 - 轻量网络代理，与业务部署在一起 - 可靠传输复杂拓扑网络中的请求 - 将应用变为现代的云原生应用 4 Application Service Mesh Transport Network Physical Confidential Kubernetes Master 14 部署-社区方案 Kubernetes Node Pod Service Mesher kubectl Side car Injector create KubeAPI server Deploy call Huawei Confidential 15 部署-商业版方案 背后发生了什么？ • 为应用容器设置环境变量http_proxy 衡等动态配置管理 支持TLS证书托管 插件化模块 1.0 支持Istio作为控制面板 支持发现 支持路由管理 支持Citadel安全管理 1.6 泛服务化，Mysql支持 1.8 支持grpc协议 支持本地健康查询 Sidecar Injector 1.5 目前版本 支持per host运行模式 支持Skywalking 1.7 支持更多的生态 1.9 2017.11 2018.11 2019

业界Saga的解决⽅方案 • ServiceComb Saga的演进 • 后续的开发计划 微服务架构 • 微服务架构将⼀一个应⽤用分成多个相互独⽴立的服务。 • 好处是各个服务能够持续独⽴立的开发和部署。 • 难题是服务的数据需要采⽤用什什么样的⽅方式来进⾏行行存储？ 多个微服务使⽤用同⼀一数据库 A B C commit rollback ⼀一个典型的微服务架构应⽤用 EdgeService Kenneth 发表论⽂文 Sagas • Saga = Long Live Transaction (LLT) • LLT = T1 + T2 + T3 + ... + Tn • 每个本地事务Tx 有对应的补偿 Cx T1 T2 T3 C3 C2 C1 https://www.cs.cornell.edu/andru/cs711/2002fa/reading/sagas.pdf （Consistency） • 隔离性 ( Isolation) • 持久性 (Durability) • Saga只提供ACD保证 • 原⼦子性（通过Saga协调器器实现） • ⼀一致性 (本地事务 + Saga log) • 隔离性 （Saga不不保证） • 持久性 （Saga log） 缺乏隔离性带来的问题 • 两个Saga事务同时操作⼀一个资源会出现数据语义不不⼀一致的的情况。