虎牙直播在微服务改造中的实践 张波 虎牙基础保障部中间件团队负责人 2019.8.11 Service Mesh Meetup #6 广州站 微服务改造事项 DNS-F在数据 库场景的落地 名字服务在负 载均衡场景的 落地 DNS-F在微服 务场景的落地 应用层探活 数据库故障 恢复时间长 服务故障牵 引慢，流量 接入生效时 间长 DNS生效慢 内部服务无 就近接入能 力 Web server 专线 背景 负载均衡变更需要更新配置发布后 才能生效，节点扩缩容，屏蔽操作 需要人工参与，流量接入接出时间 长 目标 流量接入接出时长低于30秒 负载均衡配置下发无状态改造 虎牙负载均衡部署的机器数百，配置下发的可靠性保障，一致性保障要求特别严格， 如果出现配置下发不及时，或下发配置失败，极大可能出现故障，同时负载均衡服 务弹性能力的要求较高，在业务高峰如果不能快速扩容，容易出现全网故障 Nacos源于阿里内部服务的开源实现； • 支持各种生态环境， 支持k8s， spring cloud， dubbo， service mesh等集成； • 配置中心与注册中心原生打通； 落地的改造和升级 Nacos Sync • 接入TARS注册服务 • 对接K8S注册服务 • 解决多数据中心环形同步 DNS-F • DNS-F 增加对外部域名的预缓存支持； • Agent监控数据对接公司内部监控；

•智能端点与傻⽠瓜管道 •去中⼼心化地治理理技术 •去中⼼心化地管理理数据 •基础设施⾃自动化 •容错设计 •演进式设计 可视化能帮我们什什么 掌握系统业务 明确系统边界 ⼩小步改造系统 可视化的认识遗留留系统 C4模型、⽤用户画像、⽤用户旅程 C4模型系统架构可视化 国家级 省级 道路路级 市级 C4模型系统架构可视化 系统上 下⽂文图 容器器图 代码图 组件图 业务 复杂度 需求变 化频率 使⽤用频 度 系统集 成关系 数据迁 移量量 代码改 动量量 业务维度 总体评分 技术维度 总体评分 改造意愿 排名 业务维度评分越⾼高，表示越需要微服务化来更更快、更更好⽀支撑业务需求，改造意义就越⾼高 技术维度评分越⾼高，表示技术⻛风险挑战越⾼高，同时反应出微服务化接触的空间越⼴广越深 服务A 5 8 8 5 5 8 21 18 3 8 新⽤用户服务运⾏行行⼀一段 时间后，删除原始⽤用 户模块，完成拆解 遗留留系统拆解注意事项 1. 遗留留系统改造过程中，适当减少新需求的开发，减少改造难度 2. 遗留留系统改造过程中，新需求开发必须按照新规则，如只通过 REST API进⾏行行依赖，同⼀一类型数据只能在某⼀一模块中修改， 不不依赖其他模块数据库等，减少改造⼯工作量量 3. 遗留留系统中还会包含前端代码和存储过程，也需要通过代码依 赖分析和数据库依赖分析进⾏行行拆解

企业级落地上篇 179 掌门教育微服务体系 Solar | 阿里巴巴 Nacos 企业级落地中篇 209 掌门教育微服务体系 Solar | 阿里巴巴 Nacos 企业级落地下篇 224 虎牙直播在微服务改造的实践总结 239 虎牙在全球 DNS 秒级生效上的实践 249 叽里呱啦 Nacos 1.1.2 升级 1.4.1 最佳实践 267 服务发现最佳实践 281 Eureka 平滑迁移 Nacos 准时的推送到不同的节点。即便如 此简单需求，随着业务规模变大也会变的非常复杂。如何能将数据准确的在 3 秒钟之内推送到每⼀ 个计算节点，这是当时提出的⼀个要求，围绕这个要求，系统要做大量的研发和改造，类似的这种 关键的技术挑战点还非常非常的多。本书就是将面对复杂的分布式计算场景，海量并发的业务场景， 对软负载⼀个系统的进行阐述，通过 Nacos 开源分享阿里软负载最佳实践，希望能够帮助到各位开 技术爱好者，这本书有巨大的参考价值。 Apache RocketMQ 作者 & 创始人 & PMC Chair - 王小瑞（誓嘉） 服务发现，配置中心这两个领域在淘宝 2007 年做分布式系统改造时开始建设，特殊之处在于它是整 个分布式系统的协调者和全局入口，也意味着它的可用性，可靠性，可观测性等分布式系统指标影 响整个分布式系统的运行。历史上，这个系统在阿里也触发过大故障，经历过数次血与火的考验。

值得一提的是，图神经网络挖掘的多阶关系能够丰富用户序列的表达。这种多阶关系 不仅体现在商品和商品、用户和商品等粗粒度节点之间，也体现在时间、位置、类目 等细粒度特征之间。因此，我们对特征产出流程进行了升级改造，使图神经网络中的 商品节点能够与用户行为序列在特征维度共享 Embedding 词典，并基于统一的优化 目标端到端训练，帮助细粒度多阶信息更好地在图神经网络与用户序列间传递。 上述 2 个优 关卡。 经过不断探索与尝试，我们针对 POI 侧的复杂多源信息，构造了适配点评搜索场景 的 POI 文本摘要；为了让模型更好地适配点评搜索相关性计算，采用了两阶段训练 的方法，并根据相关性计算的特点改造了模型结构；最后，通过优化计算流程、引入 缓存等措施，成功降低了模型实时计算和整体应用链路的耗时，满足了线上实时计算 BERT 的性能要求。 3.1 如何更好地构造 POI 侧模型输入信息 在判定 众点评搜索场景下的文 本信息与 MT-BERT 预训练模型使用的语料在分布上存在着一定的差异；预训练模 型的句间关系任务与 Query 和 POI 的相关性任务也略有不同，需要对模型结构进行 改造。经过不断探索，我们采用基于领域数据的两阶段训练方案，结合训练样本构 造，使预训练模型更适配点评搜索场景的相关性任务；并提出了基于多相似矩阵的深 度交互相关性模型，加强 Query 和 POI 的交互，提升模型对复杂的

海尔电器资深架构师 公司介绍 海尔 电器 日日顺 物流 贝业 物流 快递柜 。。。 跨境 电商 健康 水站 盛丰 物流 概要 • 实时计算平台背景 • 开源技术选型与实践 • 开源技术改造经验 背景－海尔大数据总体规划 实时计算平台框架 存 储 服 务 实时数据采集框架 实时计算框架 离线计算框架 数据可视化框架 数据产品1 数据产品2 数据产品N 可选的开源技术 Fluentd lastday lastmonth 实时计算平台如何监控和报警？ 海尔实时计算平台技术选型与实践 平台监控 • Ganglia • Nagios 海尔实时计算平台技术选型与实践 开源技术改造经验－数据可视化 数据可视化目标 目标：为公司所有数据分析类项目，提供数据洞察和展示工具。 数据可视化可选方案 • Caravel • Saiku • Zeppelin Zeppelin主要特性 Zeppelin技术： • 基于JAVA开发 • 前端Angularjs1.5＋nvd3.js Zeppelin改造 Server： • 支持echarts json数据 • 前端的计算逻辑都改到后端 前端： • 前端nvd3.js替换成echarts • 更强大易用的报表设计器 改造后的zeppelin报表设计器 字段 控制区 行列控制区 数据执行区 标记卡 控制区 图表辅助

事件源Event Sourcing • 命令查询责任分离CQRS 现有做法 业务改造 投入大 + 应用上云 + IaaS 应用微服务改造 + PaaS 业务创新 如AI 拆表 拆界面及业务逻辑 微服务化改造典型流程 挑战：强业务相关， 必须业务+微服务专 家介入，投入大、时 间长； 关键技术：应用微服 务化改造工具套件 根据sql、日志、代码实现微服务拆分，并修改相关代码。 Huawei

补⻬齐设施能⼒力力
 * 积累业务升级改造经验
 2. 架构级升级
 * 规模化后，架构级别收益会显现 业务架构升级case 的选择策略略 1. 集群/流量量⼤大/核⼼心有认知
 * ⽅方便便看升级改造效果 2. 瓶颈 match 升级
 (如 CPU 压不不满、IO较多、⾼高Load)
 * 可以确定获得⼤大⽐比例例收益 3. 业务逻辑简单优先
 * 尤其在改造起步阶段，降低难度 4 4. 业务压⼒力力不不⼤大
 * 有业务升级改造资源投⼊入 实施难点和策略略 • 团队 • 缺乏技能 • 缺乏意识 • 业务 • 缺乏动⼒力力 • 技术 • 缺乏⼯工具 • ⾃自上⽽而下 • 组织保障 • 全员宣导 �� Masters Masters ������ ��� �� �� Masters �� �� Masters Masters

Mesh Transport Network Physical Application Transport Network Physical 为什么要使用 • 解放业务开发者 • 改造遗留老应用成为云原生应用 • 代码0侵入 • 学习曲线 Website: http://servicecomb.incubator.apache.org/ Gitter: https://gitter 3G/4G 服务台 管理者 管理者 楼宇1 楼宇n 高级管理 系统维护 华为云存储 楼宇设施管理 楼宇设施管理 • PHP语言开发，遗留单体服务快速改造为分布式架构 • 负责公司内部的楼宇设施管理，使用mesher改造后，帮 助客户将软件改造为SaaS服务，为更多企业提供服务 6/30/2018 最佳实践 • 结合容器，容器网络，编排调度平台，监控平台使用 • 业务代码只需监听在127

预测任务以预测数据的目标值为目标。 任务由计算需求节点发布到区块链网络，由数据持有节点确认数据使用权，由任务执行节点最终执行。 2.4 算法 PaddleDTX 中的算法，一般指的是经过分布式改造的机器学习算法，即联邦学习算法。 目前开源了纵向联邦学习算法，包括多元线性回归和多元逻辑回归。 2.5 训练样本和预测数据集 PaddleDTX 中的训练样本和预测数据集都是以文件的形式存储于中心化存储网络，在发布训练任务或者预测 的模型进行计算，再汇总 得到最终结果。 4 Chapter 2. 基本概念 PaddleDTX Documentation 2.7 模型评估 PaddleDTX 中的模型评估同样经过分布式改造。如果用户指定执行模型评估，并设置评估方式和参数，任务 执行节点本地实例化评估器，评估器会划分训练样本、创建并运行训练任务、创建并运行预测任务，最后计 算评估指标。任务执行节点各自持有部分训练集 6 Chapter 2. 基本概念 CHAPTER3 正在进行中 我们即将支持的主要功能如下: 1. 支持更多的机器学习算法和对应的分布式改造，主要包括神经网络、决策树等； 2. 支持横向联邦学习算法，计划先对多元线性回归和多元逻辑回归进行改造； 3. 优化目前使用的加法同态算法 Paillier 的性能； 4. 去中心化存储服务支持负载均衡策略，根据存储节点剩余资源和以往表现情况，在文件分发时找到最