服务故障牵 引慢，流量 接入生效时 间长 DNS生效慢 内部服务无 就近接入能 力 服务性能下 降流量不摘 除 实 例 切 换 能 力 秒 级 流 量 牵 引 能 力 D N S 就 近 接 入 能 力 异 常 摘 除 能 力 dmx dns-f app nacos M S write read DNS-F在数据库场景的落地 背景 在数据库服务切换时效率低，依赖 业务方修改配置，时效不确定，通 业务方修改配置，时效不确定，通 常需要10分钟以上； 目标 数据库切换秒级生效； 技术特点-DNS-F M S S S M1.mysql S1.mysql S2.mysql S3.mysql if M1 down and M1 is master: choose newest slave： S1 or S2， compare slave IO/SQL position move M1 change master to M1 done 切换逻辑 名字服务在负载均衡场景的落地 xxx.huya.com 华南IDC 华中IDC 华北IDC Nginx Nginx Nginx Web server 专线 背景 负载均衡变更需要更新配置发布后 才能生效，节点扩缩容，屏蔽操作 需要人工参与，流量接入接出时间 长 目标 流量接入接出时长低于30秒 负载均衡配置下发无状态改造

infrastructure • 开发者不需要知道应用部署到容器还是虚机中，只需要像过去一样开发应用 • Java，Go，Nodejs等语言可部署到ARM，x86不同的基础设施中 • 完善的自动化促使组织能够管理大规模，快速的部署应用实例，应对业务流量，需求的变化 源码 软件中心 流水线 构建 归档 部署 配置中心 java python go nodejs php war jar 压缩包 二进制 servicecomb.apache.org github.com/apache?q=servicecomb 缺少了什么 • 流水线，平台等自动化手段的完备，使得开发人员开始思考业务功能的拆分，复用，使得网络拓扑更加复杂 • 从过去“数据中心网络拓扑几乎没变化”变为“应用发布，应对业务流量，随时随地的网络拓扑变化” • 平台功能解决了应用运行时之前的种种问题，但为了将应用的运行时统一治理，保障业务可靠运行，需要引入微服务框架 为什么选择ServiceComb • 兼容Spring Cloud与ServiceComb等开源生态，使开发者能够无改造迁移上云 • 多语言解决方案：Java，Go两种语言框架与Service mesh方案 • 契约管理：自动生成API文档，并在中心管理，使集成更加流畅，约束接口不能任意变更 servicecomb.apache.org github.com/apache?q=servicecomb 引擎 把他们放在一起

大促后机器闲置率高，资 源浪费巨大 混合云需求分析 机器资源按需 申请 01 接入层按url调 度流量 02 服务层set化的 路由策略 03 数据层读请求 上云，写请求 回自建idc 04 流量大户上云，顶住流量洪峰 机器器资源按需分配 接入层URL粒度流量调度 LB DNS app/browser Nginx-Proxy Nginx-Proxy 安全防护 自建IDC LB DNS app/browser nginx-Proxy nginx-Proxy data(r) 同城双活的探索 未来的担忧 单机房 如果发生机房级的灾难怎么办？ 单集群 随着流量越来越大，集群规模 越来越大，怎么破？ 单元化&多活的范围 boss 客服系统 销售系统 风控审核 催收系统 政策管理 prod devops 监控系统 调用链路 日志系统 …… data_proxy 单元机房 registry data(r) web data_proxy registry_sync 电商单元 核心交易平台 风控审核平台 残酷的现实 缺乏按用户维度的流量调度能力 LB Nginx-Proxy Nginx-Proxy 自建IDC 云IDC 3 2 1 6 5 4 3 2 1 4 5 6 定时任务与普通服务耦合 lsf_registry

近三年专注于汽车整车的数字化转型解决方案 自我介绍 3 github.com/apache?q=servicecomb servicecomb.apache.org 聚焦汽车数字营销布局 线上传播速度快，流量大，利用活动投放，网站，电商等线上 渠道引流新用户，结合统一营销中心促进销售线索孵化 建立统一内容中心与统一数字资产中心，中央统一发布全渠道 内容及数字资产，形成企业数字资产沉淀，统一企业对外形象 线索/会员/车主服务集中化 • 数据集中化 集中化 • 用户体验能力标准化 • 外部接口标准化 • 营销能力标准化、营销形式个性化 标准化 • 线索清洗评分智能化、智能分流 • 自动化个性精准营销 • 自动化投放追踪 • 营销内容自动分发 • 智能客服 智能化 • 移动端优先、用户体验优先 • 易使用、培训便利化 • 管理多级可视化 • 系统易维护、易扩展开发 便利化 数字营销平台 6 github REST NAT网关 NAT gateway 4核8G 按需扩容 4核8G 按需扩容 Nginx 按需扩容 My SQL 高 可 用 安全组隔离 安全组隔离 安全组隔离 ELB C端流量 8 github.com/apache?q=servicecomb servicecomb.apache.org 以微服务方案为底座的服务化改造 主机厂CRM运营 经销商端销售助手 主机厂

ThoughtWorks⾸首席咨询师 Sybase Tech Leader • 《微服务架构与实践》作者 • 《DevOps Handbook》中⽂文译者之⼀一 • 国内较早倡导和实践微服务的先⾏行行者 • 对于⾃自动化测试、持续交付、DevOps有丰富的实践经验 • ⻄西安DevOps Meetup 联合发起⼈人 关于我 议题 • 微服务架构的核⼼心 • 微服务架构设计原则 • 微服务架构⽣生态系统 痛苦的事情提前做 • 运维意识是关键 演进式架构 拥抱变化 动态平衡 业务 技术 团队 架构的演进基于业务、技术和团队的平衡 - 动态的平衡 演进式架构 - 痛苦的事提前做 识别问题并⽤用⾃自动化的⼿手段消除痛苦 演进式架构 - 运维意识是关键 架构只是抽象，直到真正投⼊入运维产⽣生价值 议题 • 微服务架构的核⼼心 • 微服务架构设计原则 • 微服务架构⽣生态系统 It is is about architecture， BUT not only architecture…… 微服务架构的设计原则 • 竞争能⼒力力平衡 • 围绕业务构建 • “去”中⼼心化 • ⾃自动化“⼀一切” 没有完美的架构，只有适合的架构 • Velocity • Scalability • Availability • Agility • Operation-ability

微服务环境下的系统治理与容错 王新栋 • 《架构修炼之道》作者，《决战618：探秘京东技术取胜之道》联合作者； • 对分布式、微服务系统有多年实战经验，所设计和研发的系统经历了多次百亿流量的验证； • 热爱分享，维护技术公众号 [程序架道]，对高并发、高可用系统有持续不懈的追求； 个人微信号 技术公众号 • 微服务架构 • 容错 • 总结 • 治理 微服务架构 架构 架构 服务分解的四大障碍 1、网络延迟 2、同步通信降低了可用性 3、跨服务的数据一致性 4、上帝类 微服务的忠告 n 第一，要记住微服务不是解决所有问题的万能 “银弹”。 n 第二，编写整洁的代码和使用自动化测试至关重要，因为这是现代软件开发的基础。 n 第三，关注微服务的本质，即服务的分解和定义，而不是技术，如容器和其他工具。 n 第四，确保你的服务松耦合，并且可以独立开发、测试和部署，不要搞成分布式单体，那将会是巨大的灾难。

• (核(4，%K数据包3DhM测试 • 原则：框架自身不造成应用瓶颈 服务治理实践(() +性能提升 - 铂金段t 系统化性能q化实践 V 一站式性能q化平台SDBJNEJ 流程化、自动化 零门槛、u成本 点击&次鼠标 6分钟出诊断报告 诊断对服务负面影响小，支持 b务高峰期使用 累计+ 诊断次数：数万 诊断服务数量：数千c 帮助用户解决的性能问题：上千c 服务治理实践()) + 服务保障v系 - 钻石段t ������! 2.�� ��! 3.�� ��! 4.�� ��! 5.�� ��� ��! 6.�� ���! 1.�� ��! 链路级流量隔离 • 全链路灰度发布 • 全链路压测 • 全链路故障演练 服务治理实践(6)-星耀段t+ 异地容灾 扩展 回顾：服务治理系统的三项必备能力 % 标准化 & 易用性

将从服务中心取得的实例集合，进行过滤，得到 Endpoint集合 • 根据兼容规则，将实例进行分组 只有edge service场景下，对于同一个目 标微服务，存在多个版本分组 • 兼容分组内，新版本功能集合大于旧版本，自动 根据url选择合适的版本组 • AZ亲和性 • 根据传输通道分组 • 根据实际调用统计，隔离暂时不可用的调用目标 • 开发人员通过SPI扩展过滤功能 2.以过滤得到的Endpoint集合作为输入，根据配置的策 er治理能力， 不必独立开发，直接重用 ELB Edge Service Backend ...... Edge Service ...... Backend Edge Service-自动路由1 Edge URL规划为：/{pefix}/{microserviceName}/{v1/v2/......}/path • 第一个segment为固定前缀，表示这是一个微服务调用，可用于让 enabled: true prefix: rest withVersion: true prefixSegmentCount: 3 Edge Service-自动路由2 有的场景下，业务是从传统应用移植过来的，有的URL已经固定，并且不满足自动路由规则，此时必须考虑兼容问题 对于这些不规则的URL，可以追加通过枚举的方式来指定路由规则 servicecomb: http: dispatcher:

2 Consumer 0.2 Chassis 语⾔言开发框架 Go-micro Go-kit 还有其他解题思路么？ • 多语⾔言SDK⽀支持 • 学习曲线 • 绑定特定技术栈，不容易切换⽅方案 • ⽼老旧单体应⽤用 抽象 L7 SpringMVC,VertX，beego L6 Json, Protobuf, XML L5 Http 1/2, grpc L4 TCP L3-1 CSE_REGISTRY_ADDR 部署复杂性提升，如何消弭？ • Infrastructure as Code—开发者⾃自⾏行选型 • 命令⾏行注⼊入⼯工具—Mesher开发团队定制 • 编排服务⾃自动注⼊入—最完整的产品体验 应⽤用与Mesher集成最佳实践 • 使⽤用容器,容器⺴⽹网络与编排调度平台 • 业务代码监听在本地端⼝口，并且不要暴露业 务服务端⼝口。使⽤用Mesher端⼝口对外提供服务