ServiceComb实践 案例 Agenda servicecomb.apache.org github.com/apache?q=servicecomb 面向开发者的数据中心演进 数据中心服务器虚拟化： Google，亚马逊等公司 以资源为中心： • AWS EC2，S3，Route53 • OpenStack • CloudStack • 混合云 以应用为中心： • Heroku 流 水 线 （ 持 续 集 成 、 持 续 交 付 ） 扩展插件： Eclipse等 扩展插件： 静态检查等 扩展插件： 三方部署系 统 扩展插件： 客户测试系 统 扩展插件： 客户自有仓 库 扩展插件： 客户自有监 控 开发者生态 开源社区 案例 开发者 API 产品 生态 通用微服务工具市场 行业微服务组件市场 虚机（ECS） servicecomb.apache

利用ServiceComb的隔离仓技术，实现业务不同接口的故障隔离 充值服务 APP付费下载服务 APP评论服务 业务线程池 手机客户端 WAP客户端 图书门户 单点故障 故障扩散 故障扩散 无线程池隔离仓： 充值服务 开户服务 客户资料查询服务 其它非关键服务 隔离仓-1 隔离仓-3 手机客户端 WAP客户端 图书门户 单点故障 正常 正常 隔离仓-2 配置隔离仓： 通过配置线程池隔离仓，实现快 通过配置线程池隔离仓，实现快 慢接口、读写接口、核心和非核 心接口、管理和业务接口的调度 隔离，提升微服务可靠性 实践-轻量化 Website: http://servicecomb.incubator.apache.org/ Gitter: https://gitter.im/ServiceCombUsers/Lobby 业务按需配置ServiceComb的类库依赖，基于standalone轻量级部署

丌同于消费者，生产者主要的工作就是等待消费者 的请求，在处理之后，返回应答 在这一端我们更加关注：“如何高效地接收和处理 数据”这件事情  同步模式下，业务逻辑不IO逻辑分离，且根据 “隔离仓”原则，为了保证整个系统更加稳定和高 效地运行，业务逻辑本身也需要在丌同的隔离的区 域内迚行。而这些区域，就是线程池。 所以构建生产者，就需要对线程池迚行精细的管理。 下面是针对线程池的各种管理方式。 …… Business Logic 队列 Executor Business Logic …… Business Logic 队列 …… Producer-隔离仓 Producer Eventloops …… Executor Executor Operation:a/b/c…… Operation:1/2/3…… Producer-灵活的线程池策略

Queue Thread Pool Logic Logic 5 github.com/apache?q=servicecomb servicecomb.apache.org 可靠性 • 隔离仓 servicecomb: executors: Provider: [schemaId]: [operationId]: executorForSlowMethod • 丢弃策略 servicecomb:

围绕服务契约进⾏行行开发以及运维 异步化⽀支持 • 基于Vertx提供的异步内核 • 保持⾼高性能的同时⽀支持同步调⽤用⽅方式 • 将通信线程与业务处理理线程分离 • 操作级别线程池控制，⽀支持隔离仓 • ⽀支持多种异步编程接⼝口 • CompletableFuture • RxJava • Reactive Stream • ……. Process Event-Loop Process

运行模型 围绕服务契约进行开发以及运维 异步化支持 • 基于Vertx提供的异步内核 • 保持高性能的同时支持同步调用方式 • 将通信线程与业务处理线程分离 • 操作级别线程池控制，支持隔离仓 • 支持多种异步编程接口 • CompletableFuture • RxJava • Reactive Stream • ……. Process Event-Loop Process

架构下的 K8S 和微服务实践 异步性能支持 • 基于Vertx提供的异步内核 • 保持高性能的同时支持同步调用方式 • 将通信线程不业务处理线程分离 • 操作级别线程池控制，支持隔离仓 • 支持多种异步编程接口 • CompletableFuture • RxJava • Reactive Stream • ……. Process Event-Loop Process

eventLoopContext-created 如果持续增加，说明有计划外的线程切换，需要定位 • threadPool 以线程池为单位进行统计，输出最小线程数、最大线程数、 当前线程数、当前排队任务数，以及平均每秒提交任务数、完成 任务数等等数据 • consumer 以transport、调用结果两个维度进行分组，以operation为 单位输出tps、平均时延、最大时延 • producer 系统参数比较保守，需要根据实际情况设置合适的参数 • Producer线程池 默认2个线程池，每个池中线程数等于cpu数 – 参考metrics统计结果 • cpu 带宽允许的情况下，cpu应该基本占满 • 网络带宽 关注是否已经占满带宽 • RSS 如果环境（硬件、os、驱动）支持RSS特性，确认队列数是否正确配置、中断是否均匀绑定了cpu、是否关闭了自动软中断负载均衡（不关闭会导致中断绑定， 在一段时间后失效） thread- count highway.client.thread-count 默认值 1 1 5 1 1 每个client verticle实例中 针对同一个IP:PORT，最多同时建立的连接数 Thank You. Website: http://servicecomb.incubator.apache.org/ Gitter: https://gitter.im/ServiceCombUsers/Lobby

servicecomb.apache.org Demo—分支 13 github.com/apache?q=servicecomb servicecomb.apache.org 性能 性能规格 节点类型 虚拟机数目 CPU/RAM 存储 2000TPS Server 3  CPU≥4核；  RAM≥8GB；  系统盘：40GB；  数据盘：500GB； GaussDB 2  CPU≥8核；

Apache ServiceComb 开源微服务社区 • 注册在美国的非盈利组织 • 提供法律和基础设施的支持 • 完全的自愿组织，虚拟的全球化组织 • 有6600+ committers， 580+ member • 350+ 开源项目, 50+ 正在孵化的项目 • 组织前身是 1996年成立的 Apache Group • ASF成立于 1999年 贡献者 Committer