24b8/p8_1.jpg) ## 持续演进路径 & 技术案例 ## 能力 TCP代理/7层通用代理 简单匹配路由 集群管理 & 基本负载均衡(RR、RANDOM) SofaRpc及HTTP/1.1、HTTP/2.0支持 进程平滑升级 0.1.0 SOFAMesh集成，支持xDS on ADS X-Protocol协议扩展机制， 以及Dubbo支持 0.2.1 – 2018.08 版本 ☐ 部署模式: Client <-> MOSN<-> Service ☐ Client模拟方式:通过蚂蚁内部压测平台建立10w条SOFARPC链接 ☐ 压测内容: 1K 请求/响应 |场景|QPS|MEM(K)|CPU(%)|goroutine| |---|---|---|---|---| |原生IO模式|1000|3.3|60|200028| 5|18|28| ## 持续演进实践总结 ✓ 架构上，从一开始就遵循分层设计，模块解耦，统一编程模型接口，保证足够的架构扩展性。 ✓ 性能上，针对IO、协议、内存、协程进行持续优化。相比最初版本，SOFARPC协议上对0.1.0版本QPS提升了50%，内存使用减少了40%；HTTP/2.0相比官方库原生实现，QPS提升了100%；HTTP/1.1也有30%以上的性能提升。同时，针对具体问题提供具体的解

了618大促。  多协议 SOFARPC Dubbo HTTP1.1/2  jpg) workerpool ## SOFAMosn能力扩展 ✓ 协议扩展 MOSN 通过使用同一的编解码引擎以及编/解码器核心接口，提供协议的 plugin 机制，包括支持 • SofaRPC HTTP1.x, /HTTP2.0 • Dubbo ## ✓ NetworkFilter 扩展 MOSN 通过提供 network filter 注册机制以及统一的 packet read/write types.HeaderMap) types.StreamFilterStatus { if cmd, ok := headers.(sofarpc.SofaRpcCmd); ok { if cmd.CommandCode() == sofarpc.HEARTBEAT { f.protocol = cmd.ProtocolCode()

➢X-Protocol: 支持 RPC on HTTP2的通用方案（完善中） ➢支持平滑升级中协议无关存量链接迁移 ➢支持指定 / 更新 Downstream / Upstream 协议配置 ➢SOFARPC 支持 Upstream 反向请求 ## I stio集成 ➢支持 Istio 0.8 版本 Pilot V4 API ✓支持xDS on ADS ➢支持全动态配置启动运行 ➢支持API核心功能点，不断完善中 ✓MOSN 0.1.0 ✓Envoy 1.7 ➢场景 ✓代理模式: client -> mesh -> server ✓Client直连server请求耗时1.6ms ## SOFARPC + 1K字符串 |指标\\软件|SOFAMosn|Envoy| |---|---|---| |QPS峰值|103500|104000| |RT(avg)|16.23ms|15.88ms| |MEM|31m|18m| 068ms| |RT(P99)|16ms|7ms| |RT(P98)|13ms|7ms| |RT(P95)|11ms|6ms| |MEM|56m|24m| |CPU|100%|95%| ## 单核SOFARPC转发 环境 ✓独占CPU容器 ✓CPU: Intel(R) Xeon(R) CPU E5620 @ 2.40GHz X 16 X 1 ✓OS: 2.6.32-431.17.1.el6

雷志远(碧远) 蚂蚁金服中间件 RPC 负责人 雷志远（碧远） 蚂蚁金服 RPC 负责人 黄挺（鲁直） 蚂蚁金服云原生负责人 主要 Focus 领域: 主要 Focus 领域: * 服务框架：SOFARPC（已开源） * SOFAStack 微服务领域 * Service Mesh: MOSN（已开源） $ ^{*} $ Service Mesh, Serverless 等云原生领域 SOFAStack 现有框架升级 2问 容器如何替换 3问 MOSN 如何升级 ## App 容器 应用代码 SOFABoot/SOFARPC API SOFABoot SOFABoot 研发框架 JVM App 容器 应用代码 SOFABoot/SOFARPC API SOFABoot_Old SOFABoot_New RPC JVM 检测 pod 变量，注入启动参数 判断开启了

软负载（服务发现） 私有协议（WS、Dubbo、Bolt 等） 一般不需要 基于 Service 路由 弱依赖（RBAC） 弱依赖 弱依赖 ## MQ Client API Gateway SofaRPC Service Code ## Sidecar Motorcycle (MOSN/Envoy) ## An infrastructure to expose your services as Gateway Filters Reaction ## Stream Engine Connection MMTP Protocol ## Protocol Engine HTTP\SOFARPC\Dubbo Codec Metrics ## NET/IO RW/IO Serialize SOFA RPC TLS Event ## Hardware HTTP/1.1

多协议支持 除了支持 SOFARPC，也支持广泛使用的 Dubbo 和 Spring Cloud，提供统一的服务治理能力 - 基于 x-protocol，未来也可以方便地支持更多协议  ## SOFARPC DEZBO Spring