件锁 -> 多个⽂件各种锁 • 同步改异步：如同步⽇志 -> 异步⽇志，若队列满则丢弃，不阻塞业务逻辑 CPU 使⽤太⾼了-编解码使⽤ CPU 过⾼ 通过更换 json 库，就可以提⾼系统的吞吐量 本质上就是请求的 CPU 使⽤被优化了 我们可以使⽤固定 QPS 压测来验证该结论 https://golearn.coding.net/p/gonggongbanji/files/all/DF46 F47 CPU 使⽤太⾼了-GC 使⽤ CPU 过⾼ • 调⼤ GOGC • 程序启动阶段 make ⼀个全局的超⼤ slice(如 1GB) 这种⽅式只适合那些内存不紧张，且希望提⾼整体吞吐量的服务 内存占⽤过⾼-堆分配导致内存过⾼ 实例分析，TLS 的 write buffer 瓶颈优化过程 https://github.com/golang/go/blob/master/src/crypto/tls/conn

开发方式：支持透明RPC、Spring MVC风格的微服务开发  编程模型：同时支持同步、异步的编程模型  性能：支持原生的Reactive模式（EventLoop），相比于传 统的同步服务调用，性能更高（吞吐量N倍+提升、时延降低 为原来的50%-）  轻量级、易集成：可以方便的与Spring MVC、Tomcat等 已有技术和容器集成，支持轻量级的standalone部署  服务治理：可商用的服务治理能力 通信都 可以采用异步非阻塞模式 同步服务调用的几个缺点： 1、业务线程利用率低：线程资源是系统中比较重要的资源， 在一个进程中线程总数是有限制的。提升线程的使用率，就能 够有效提升系统的吞吐量。在同步服务调用中，如果服务端没 有返回响应，客户端业务线程就会一直阻塞（wait）,傻等期 间，无法处理其它业务消息。 2、纠结的超时时间：服务的超时时间配置是个比较纠结的事 情，如果超时

leveldb leveldb leveldb 只读 读写 元数据 索引数据 区块数据库 索引数据库 区块链平台底层采用Filelog+IndexDB混合存储模型，以应对当前业务场景对高磁盘I/O频率和吞吐量的高要求。数据随区块 存储在区块链专用存储引擎Filelog，索引数据存储在由多个LevelDB构成的IndexDB中，保证数据读写性能不受存量数据增加 的影响。 混合存储模型 区块链平台关键技术-混合存储模型 版权所有 ©2016-2021 26 趣链科技 版权所有 ©2016-2021 26 区块链性能测试工具-产品基础模型 测试 平台 Hyperchain 测试脚本 可视化⼯具 交易成功率 交易吞吐量 交易延迟 … 压测指标 Fabric Ethereum … 测试脚本 测试脚本 27 趣链科技 版权所有 ©2016-2021 27 趣链科技 版权所有 ©2016-2021 27 趣链科技

在数据处理框架的技术选型上，我们先后考虑了三种方案，分别是传统架构（Java 应用）、Storm 架构、Flink 架构，这三种方案在不同维度的对比数据如下： 方案 成熟度 稳定性 扩展性 容错性 延迟 吞吐量 开发成本 运维成本 传统架构 高 高 低 低 高 低 高 高 Storm 架构 高 中 高 高 中 中 中 中 Flink 架构 中 中 高 高 低 高 中 中 表 1 技术选型对比表 综合来看，虽然传统架构有比较好的成熟度与灵活性，但是在扩展性、容错性以及性 能上均不能满足系统要求，而 Flink 架构与 Storm 架构都有比较优秀的扩展性与容错 性，但是 Flink 架构在延迟与吞吐量上表现要更好，因此我们最终选择了使用 Flink 架构作为数据处理框架。 Flink：业内领先的流式计算引擎，具有高吞吐、低延迟、高可靠和精确计算等优点， 对事件窗口有很好的支持，被业内很多公司作为首选的流式计算引擎。 SLA 指标表格 618 > 2022年美团技术年货 除了核心指标监控之外，我们还建设了全流程监控大盘，覆盖了分端上报成功率、域 名可用性、域名 QPS、作业吞吐量、平均聚合条数等重要观测指标，并且针对上报 成功率、域名 QPS、作业吞吐量等配置了兜底告警，当线上有异常时可以第一时间 发现并进行处理。 3.2 蓝绿发布 实时日志依赖于实时作业的处理计算能力，但是目前实时作业的发布和部署不能无缝

以适配多种存储系统，同时支持SQL和NoSQL两种数据管理方式，可以更简便地支持多种业务场 景。 • 实现预 预 预编 编 编译 译 译合 合 合约 约 约框 框 框架 架 架，突破EVM性能瓶颈。支持交易并发处理，大幅提升交易处理吞吐量。 预编译合约采用C++实现，内置于底层系统中，区块链自动识别调用合约的交易互斥信息， 构建DAG依赖，规划出一个高效的并行交易执行路径。最佳情况下，性能提升N倍（N=CPU核 数）。 • 另外，FISCO Documentation, 发 发 发布 布 布 v2.3.0 2.3 并 并 并行 行 行计 计 计算 算 算模 模 模型 型 型 2.0版本中新增了合约交易的并行处理机制，进一步提升了合约的并发吞吐量。 1.0版本以及大部分业界传统区块链平台，交易是被打包成一个区块，在一个区块中交易顺序串行执行 的。 2.0版本基于预编译合约，实现一套并行交易处理模型，基于这个模型可以自定义交易互斥变量。 在 txs_max_gossip_peers_num=5 并 并 并行 行 行交 交 交易 易 易配 配 配置 置 置 FISCO BCOS支持交易的并行执行。开启交易并行执行开关，能够让区块内的交易被并行的执行，提高 吞吐量，交 交 交易 易 易并 并 并行 行 行执 执 执行 行 行仅 仅 仅在 在 在storage state模 模 模式 式 式下 下 下生 生 生效 效 效。 注 注 注解 解 解: 为 为 为简

RabbitMQ • ActiveMQ • Apollo 消息队列使用场景及选型 事务可靠性场景（ActiveMQ/RabbitMQ/RocketMQ）： • 重要业务数据的异步处理 吞吐量优先场景（Kafka/RocketMQ）： • 大规模数据的传输和收集 Kafka web管理界面： •Kafka Web Console •Kafka Manager •KafkaOffsetMonitor

Distill BERT • 12层 蒸出 6层 what’s next? • TensorRT inference server
 改变pipeline
 • cpu化
 不不在意延时，只追求吞吐量量
 • fp16低精度 THANK YOU Meteorix 刘欣 github.com/Meteorix 15927607981

• 模块间通过MQ/RPC交互 极光推送后台系统架构 01 Segment Conn StatCenter OnlineMsg 异步化 • 充分利用资源，减少请求等待时间，提升系统吞吐量 • 消息化请求 • MQ - RabbitMQ, RocketMQ • 模块间解耦 • IDC数据同步 • 异步RPC • ICE - 负载均衡，AMI，AMD，多线程 极光推送后台系统架构

时计算和⾼高可⽤用分 布式系统架构等技术领域。 从事互联⽹网研发、架构10余年年，曾在浪潮集团、当当⽹网等公司从事架构相关⼯工作。2017年年加⼊入京东，期间提升京 东商城相关系统的性能和吞吐量量数倍。 ⽬目前致⼒力力于推进京东基础架构技术的创新、对外赋能与开源。 ⽬目录 Why 有什么用？ What 如何定位？如何融入生态系统？ How 如何实现？如何优化？ WHY

min(price) as low sum(amount) as amount from trades group by 1 2 交易系统架构设计 交易系统架构设计-设计目标 • 吞吐量5w TPS, 延迟10ms • 能睡个好觉(数据持久化，数据最终一致性，容错) • 设计简单，运维方便 交易系统架构设计-关键点 • 内存撮合服务的状态持久化和高可用 • 消息处理顺序的保证