Co-founder of Layotto Service Mesh 落地之后: 为 sidecar 注入灵魂 2 • Multi Runtime: 从 sidecar 到机甲 • Runtime API: 解决跨云部署和厂商绑定难题 • WebAssembly in sidecar: 让业务逻辑跑在sidecar里 • Service Mesh 回顾 • 展望2022：待解决的问题 • 总结 Mesh 的初衷 6 • 升级成本高 • 业务解耦 • 平滑升级 • 异构语言治理 • 异构语言治理能力弱 • SDK 版本不统一 应用 SDK 服务路由 负载均衡 通信序列化协议 sidecar 应用 SDK 通信序列化协议 业务逻辑 服务路由 熔断限流 进程通信 熔断限流 负载均衡 Service Mesh 落地实践 7 基础设施 MOSN RPC MQ Micro Kernel 另一种视角看待 Runtime API 39 设计Runtime: 单体sidecar(Monolithic sidecar) 还是 微sidecar(Micro sidecar)？ Monolithic sidecar All in one sidecar State Binding Networking (service mesh,pubsub …)

���������HTTP�� Dubbo! SpringCloud! Thrift! gRPC! ���! �! �! �! �! ���! Java! Java�Python� Node.js���� sidecar�����! Java�Python�C+ +�Node.js��� �! Java�C++� Python�Node.js� ���! ����! TCP/HTTP! HTTP! TCP Service A! Sidecar! Service B! Sidecar! • Service Mesh������������������������������������������������ Service Mesh�������������������������������� • ���Sidecar�������������������������Sidecar�� • • Sidecar������������������������ 99 Service Mesh���� • �������������Sidecar����������������Sidecar��Service Mesh���� • ���������Sidecar������������������������������Sidecar�� �������Sidecar����

何为Service Mesh • 演进：从SDK到Service Mesh • 拥抱Service Mesh开源生态 • 相关资源 #微服务 #Service Mesh #Sidecar #云原生 #SDK #数据面，控制面 大纲 服务形态的演进 SDK SDK SDK SDK proxy proxy proxy proxy • 单体应用 discovery configuration 从SDK到透明代理 • Java SDK 还是 Go SDK? • Go wins! Go SDK Sidecar core Chassis Sidecar 从SDK到透明代理 服务注册&发现 Registrator Service Discovery Instance Cache Management HTTP gRPC Data Plane service Java SDK service Go SDK service proxy 混合式方案：SDK + Sidecar Infrastructures Kubernetes VM Bare metal Clouds Monitoring Zipkin Prometheus Grafana

image for sidecar start sidecar pull image for app start app 镜像提前预拉取 create schedule attach/mount volume cni allotate start sidecar pull image for app start app 预拉取： pull image for sidecar pull image 常见预热使用场景 apiVersion: apps.kruise.io/v1alpha1 kind: ImagePullJob metadata: name: sidecar-image-job spec: image: xxx/sidecar-image:latest parallelism: 20 completionPolicy: type: Always activeDeadlineSeconds: selector，默认全集群范围 • 采用 Always 策略一次性预热（也可以配 置为 Never，视场景而定） 整个 job 预热超时时间 30min job 完成后，过 5min 自动清理 02. sidecar镜像 – 集群维度预热 常见预热使用场景 apiVersion: apps.kruise.io/v1alpha1 kind: ImagePullJob metadata: name: faas-job

Confidential 3 ��������� Consumer Mesher Provider Java-chassis Service Center Kubernetes Mesher Sidecar-injector Frontend Huawei Confidential 4 ����.����� • be����������.�������.��MD����� ����.������c��P�f B ����� ����� request Handler chain invocation Huawei Confidential �P���sidecar-injector�� 8 pod A mesher A sidecar-injector �������������������������� ����� • ���,��,9,��� �������9,� • ��9�9�� �������.�������9�9��.�,����1�����.���9����NS�� ���K� ������,��M� sidecar.mesher.io/inject: yes ���,����,��� kubectl label myns sidecar-injector=enabled Huawei Confidential �����go-archaius 9 mesher

Microservice Development Consumer Mesher Provider Java- chassis Service Center Kubernetes Mesher Sidecar-injector Frontend Huawei Confidential 4 Provider Development • Access start.servicecomb.io, enter Request Handler chain Invocatio n Huawei Confidential Quick Deployment: Sidecar-injector Principles 8 Pod A Mesher A Sidecar- injector Kubernetes AdmissionWebhook Prerequisites: • Kubernetes 1.9 permissions are available. Service Configurations: Pod Spec comment: sidecar.mesher.io/inject: yes Namespace label: kubectl label myns sidecar-injector=enabled Huawei Confidential Flexible Configuration: go-archaius

200多个数据中⼼心 Sidecar模式 • 基于容器的分布式系统设计模式 • 容器可以共享存储与⺴⽹网络的能⼒力 应⽤用程序容器 ⽇日志同步⼯工具容器 存储卷 Sidecar优势 • 以容器作为基础打包单元，可以分给不同的团队进⾏行开发测试 • 可重⽤用 • 以容器作为错误边界，使服务能够正确推出 • 独⽴立回滚与更新 第⼆二代：HSA SideCar • 2016年，基于Java • 占⽤用资源很⾼高 Mesher • Service Mesh的⼀一种实现 • 基于⾃自研的Go语⾔言微服务框架（即将开源）开发 • 使⽤用CSE注册中⼼心与配置中⼼心 • 以Sidecar的⽅方式部署在微服务所运⾏行的环境中，也可以 PerHost模式运⾏行 • ⽀支持多种部署⽅方式 • 占⽤用资源⼩小（闲置10多M，并发运⾏行时30多M） • 简介 • 实现⼀一个Service 应⽤用与Mesher集成最佳实践 • 使⽤用容器,容器⺴⽹网络与编排调度平台 • 业务代码监听在本地端⼝口，并且不要暴露业 务服务端⼝口。使⽤用Mesher端⼝口对外提供服务 • 使⽤用SideCar部署模式 • 将服务提供者地址写在配置⽂文件中，在本地 ⾥里信息是http://x.x.x.x:port,当需要与Mesher 使⽤用时，改为http://ServiceName Node

几种常见的同机通信场景： 1. 微服务合并部署（亲和性部署、sidecar 部署） 2. 本地基础组件：mesh sidecar、风控 sidecar、分布式网关... 方案诞生的背景 微服务化拆分： 1. 序列化 2. 网络开销 3. 服务治理 微服务合并部署 function call remote call 方案诞生的背景 微服务合并形态：sidecar 进程通信 方案诞生的背景 微服务合并形态：亲和性部署

风格 HTTP 接口，简单易用，方便多语言集成。  Console：易用控制台，做服务管理、配置管理等操作。  SDK：多语言 SDK，目前几乎支持所有主流编程语言。  Agent：Sidecar 模式运行，通过标准 DNS 协议与业务解耦。  CLI：命令行对产品进行轻量化管理，像 git ⼀样好用。 业务层  服务管理：实现服务 CRUD，域名 CRUD，服务健康状态检查，服务权重管理等功能。 服务发现、认证授权、监控追踪、 流量控制等分布式系统所需要的功能。 从宏观上看，其实现方式为引入⼀个代理服务，以 Sidecar 的方式（边车模式）与每⼀个业务服务 部署在⼀起，由代理服务接管服务的所有出入流量。控制面作为核心控制大脑，对所有业务的代理 服务（Sidecar）进行统⼀的流量控制和管理。 155 > Nacos 生态 从微观上看，这个代理服务是通过代理业务服务之间的流量通信间接完成服务之间的通信请求，分 ，其中⼀套比较流行的方案就是采用 Istio + Envoy 实现的。Envoy 作为代理以 SideCar 形式和应用服务部署在⼀起，透明拦截应用服 务所有的入口流量和出入流量，在转发流量之前执行⼀些额外的治理策略，这些操作都是对业务服 务透明的，无感知的。这样⼀来，如果我们把与业务应用耦合的服务治理相关 SDK 的功能下沉到 SideCar，那么业务代码就会与服务治理代码解耦，并且可以并行迭代发展。从这个角度看，

Mesh Evolution in Huawei - 2013: IR component in the microservice development platform - 2015: Sidecar component 5 Huawei Confidential 6 Mesher - Implementation of Service Mesh Theory - Developed Kubernetes Master 14 Deployment — Community Solution Kubernetes Node Pod Service Mesher kubectl Sidecar Injector Create Kube API server Deploy Call 15 Deployment — Commercial Solution What happened ubiquitous service and MySQL. 1.8 Supports the GRPC protocol. Supports local health status query. Sidecar Injector 1.5 (Current Version) Supports the per host running mode. Supports Skywalking. 1.7