禁用透明巨页 第 第 14 章 章 低延 低延迟节 迟节点的 点的 PERFORMANCE ADDON OPERATOR 14.1. 了解低延迟 14.2. 安装 PERFORMANCE ADDON OPERATOR 14.3. 升级 PERFORMANCE ADDON OPERATOR 14.4. 置备实时和低延迟工作负载 14.5. 使用性能配置集调整节点以实现低延迟 14.6. 使用 PERFORMANCE NIC 队列 14.7. 调试低延迟 CNF 调整状态 14.8. 为红帽支持收集调试数据延迟 第 第 15 章 章 为 为平台 平台验证执 验证执行延 行延迟测试 迟测试 15.1. 运行延迟测试的先决条件 15.2. 关于延迟测试的发现模式 15.3. 测量延迟 15.4. 运行延迟测试 15.5. 生成延迟测试失败报告 15.6. 生成 JUNIT 延迟测试报告 15.7. 在单节点 在单节点 OPENSHIFT 集群上运行延迟测试 15.8. 在断开连接的集群中运行延迟测试 15.9. 对 CNF-TESTS 容器的错误进行故障排除 78 78 78 80 80 82 83 84 87 87 87 90 90 92 92 94 94 94 95 96 96 96 100 100 100 101 103 104 106 106 106

未来展望 m w a l i b a b a - i n c . c o m ©2016 Alibaba Middleware Group n 历年双11消息数量变化 n 消息中间件核心链路 n 低延迟存储 n 容量保障 n 熔断机制 n 多副本高可用 10亿 百亿 千亿 5千亿+ 万亿+ 历年双11消息数量变化 2012双11 2013双11 2014双11 2015双11 2016双11 消息中间件分布式慢请求解法 01 02 低延迟分布式存储系统 在线熔断机制，秒级隔离 03 容量保障，限流 1.4万亿 低延迟分布式存储系统 – RocketMQ存储 Java Heap Lock Page Cache Disk Request Request Request Request Request Request 万级请求/秒/单机 1.4万亿 低延迟分布式存储系统 – 并发锁的开销 lReentrantLock/synchronized ØFair ØUnfair lLockSupport.unpark/park 1.4万亿 低延迟分布式存储系统 – PageCache真的那么快吗？ 1.4万亿 低延迟分布式存储系统 – PageCache的毛刺现象分析 1.4万亿 低延迟分布式存储系统 – PageCache的毛刺现象分析 lMemory access latency issues: ØDirect

未来展望 m w a l i b a b a - i n c . c o m ©2016 Alibaba Middleware Group n 历年双11消息数量变化 n 消息中间件核心链路 n 低延迟存储 n 容量保障 n 熔断机制 n 多副本高可用 10亿 百亿 千亿 5千亿+ 万亿+ 历年双11消息数量变化 2012双11 2013双11 2014双11 2015双11 2016双11 消息中间件分布式慢请求解法 01 02 低延迟分布式存储系统 在线熔断机制，秒级隔离 03 容量保障，限流 1.4万亿 低延迟分布式存储系统 – RocketMQ存储 Java Heap Lock Page Cache Disk Request Request Request Request Request Request 万级请求/秒/单机 1.4万亿 低延迟分布式存储系统 – 并发锁的开销 lReentrantLock/synchronized ØFair ØUnfair lLockSupport.unpark/park 1.4万亿 低延迟分布式存储系统 – PageCache真的那么快吗？ 1.4万亿 低延迟分布式存储系统 – PageCache的毛刺现象分析 1.4万亿 低延迟分布式存储系统 – PageCache的毛刺现象分析 lMemory access latency issues: ØDirect

ON
Web
Token、IP
⿊⽩名单、OAuth
等；
性能极⾼ 5. API7
使⽤
Radixtree
算法实现⾼性能、灵活路由，在
AWS
8
核⼼服务器中，QPS
约为
140K，延迟约 为
0.2
ms；
全动态能⼒ 6. 修改⽹关配置、增加或修改插件等，⽆需重启⽹关服务即可实时⽣效；⽀持动态加载
SSL
证书；
扩展能⼒强 7. 借助灵活的插件机制，可针对内部业 分析监控：API7
内置了请求审计、监控告警、统计报表等分析监控功能，API
⽹关将记录所有节点 每个请求的信息，并进⾏成功请求、异常请求统计，可在控制台查看请求成功数、请求失败数、错 误码、请求延迟等指标。此外，借助
Grafana
的能⼒，可满⾜更多维度地分析监控需求；
• 全⽣命周期管理：API7
⽀持
API
版本管理、API
分组、API
上下线、在线调试等功能，并兼容
OpenAPI
3 ✖
✖
✖
✅
⽣成
SDK
和⽂档
✔
✖
✖
✖
✅
插件管理
动态新增、修改和删除插件
✔
✖
✔
✖
❌
插件编排（低代码）
✔
✖
✖
✖
❌
⽀持
Lua、Java
和
Go
编写⾃定义插件
✔
✔
✖
✖
❌
安全
⽤⼾相关
RBAC
✔
✖
✖

3
-
GigaOm
API负载测试设置9
API
压⼒测试9
测试环境10
单节点10
环境清单10
软件版本信息11
4
-
测试结果12
图2.
空转时的压⼒测试
API
的基线延迟12
图3.
API7与Kong
EE在20,000rps时的对⽐13
图4.
API7与Kong
EE在10,000
rps时的
JWT
对⽐。13
图5.
API7与Kong
EE在10 署和 应⽤程序开发，且能降低计算成本的开销。 更重要的是，许多组织也依赖API和微服务来实现⾼性能和可⽤性。在本⽂中，我们将“⾼性能”定义 为每秒负载超过1000个交易且在整个API环境中最⼤延迟⼩于30毫秒。对公司⽽⾔，对性能的需求和 对管理的需求⼀样，因为公司依靠API交易速率来跟上业务发展速度。
API管理解决⽅案不能成为性能瓶颈。许多公司都在寻找跨多个API端点的负载均衡和⾼交易量吞吐的 000个请求的情况下， 99.99
%
的情况API7的延迟⽐Kong
EE低14倍。API7和Kong
EE⼆者百分⽐越⾼延迟差异越明显。在 我们所有的测试中，最⼤延迟差异体现得最明显的是达到
99.9%
和99.99%
的请求时。
云上测试软硬件是⾮常具有挑战性的。在可⽤性、虚拟机处理器、内存、最佳输⼊/输出的存储、⽹络 延迟、软件和操作系统版本以及负载这些⽅⾯的配置可能会有利于其中⼀⽅。更具挑战性的是测试完

Elasticsearch Cluster Health 是红色 12.5.2. Elasticsearch Cluster Health 为黄色 12.5.3. 已达到 Elasticsearch 节点磁盘低水位线 12.5.4. 已达到 Elasticsearch 节点磁盘高水位线 12.5.5. 已达到 Elasticsearch 节点磁盘的洪水水位线 12.5.6. Elasticsearch JVM JVM 堆使用率是高 12.5.7. 聚合日志记录系统 CPU 为高 12.5.8. Elasticsearch 进程 CPU 为高 12.5.9. Elasticsearch 磁盘空间现为低 12.5.10. Elasticsearch FileDescriptor 使用为高 第 第 13 章 章 卸 卸载 载 OPENSHIFT LOGGING 13.1. 从 OPENSHIFT CONTAINER Elasticsearch Operator (EO)： 已达到 Elasticsearch 节点磁盘低水位线 已达到 Elasticsearch 节点磁盘高水位线 已达到 Elasticsearch 节点磁盘的洪水水位线 当 Elasticsearch 节点预计在未来 6 小时内将到达磁 磁盘 盘低水位 低水位线 线、磁 磁盘 盘高水位 高水位线 线或磁 磁盘 盘洪水 洪水 Stage 水位 水位线

网络堆栈可以动态使用非保留 CPU。默认情况下，这种非保留 CPU 的动态使用发生在机器配置池中应用有性能配置集的节点。可用的非保留 CPU 的动态使用可最大化 OVS 的计算资源，并在高需求期间为工作负载最小化网络延迟。OVS 仍然无法在 Guaranteed QoS pod 中动态使用分配给容器的隔离 CPU。这种分离可避免对关键应用程序工作负载造成中断。 注意 注意 当 Node Tuning Operator 识别性能条件来激活使用非保留 CPU 时，OVN-Kubernetes 配 置 CPU 上运行的 OVS 守护进程的 CPU 关联性对齐。在这个窗口中，如果一个 Guaranteed QoS pod 启动，它可能会遇到延迟激增。 1.3.9.5. 多个 多个 IP 地址的双 地址的双栈 栈配置 配置 在以前的 Whereabouts IPAM CNI 插件版本中，每个网络接口只能分配一个 IP 地址。 现在，Whereabouts (PAO) must-gather 镜像不再需要作为 must-gather 命令 的参数，以捕获与低延迟调整相关的调试数据。PAO must-gather 镜像的功能现在在没有镜像参数的 must-gather 命令使用的默认插件镜像下。有关收集与低延迟调整相关的调试信息的更多信息，请参阅为 红帽支持收集低延迟调试数据。 1.3.21.2. 使用 使用 Operator 的 的 must-gather

Container Platform 中，您无法更改无限期重试行 为。 这些参数可帮助您权衡延迟和吞吐量之间的利弊。 要优化 Fluentd 的吞吐量，您可以使用这些参数通过配置较大的缓冲和队列、延迟清除以及设置 重试间隔间的更多时间来减少网络数据包的数量。请注意，大型缓冲区需要在节点文件系统有更 多空间。 要优化低延迟，您可以使用参数尽快发送数据，避免批量的构建，具有较短的队列和缓冲，并使 用更频繁的清理和重试。 Immediate: 在将数据添 加到一个块后马上清理 块。 interval flushThreadCount 执行块清除（flushing）的线程数 量。增加线程数量可提高冲刷吞吐 量，这会隐藏网络延迟的情况。 2 overflowAction 当队列满时块的行为： throw_exception：发 出一个异常并在日志中显 示。 block：停止对数据进行 块除了，直到缓冲区已用 完的问题被解决为止。 时，Elasticsearch 会在可能的情况下将现有分片重新定位到其他节点。但是，如果存储消耗低于 85％ 时无节点有可用存储 空间，Elasticsearch 会拒绝创建新索引并且变为 RED。 注意 注意 这些高、低水位线值是当前版本中的 Elasticsearch 默认值。您可以修改这些默认值。虽然 警报使用相同的默认值，但无法在警报中更改这些值。 4.5.2. 其他资源 为日志存储配置持久性存储 4.6

来源网站：链滴 许可协议：署名-相同方式共享 4.0 国际 (CC BY-SA 4.0) Apache RocketMQ 介绍 概要 Apache RocketMQ是一个分布式消息传递和流媒体平台，具有低延迟，高性能和可靠性，万亿级容 和灵活的可伸缩性。它的一个重要特性是支持非日志类型的可靠消息传送，非常适合运用在金融和电 商务领域。目前他是Apache社区的顶级项目，在全球有超过100家公司在其业务中使用RocketMQ IO模块遇到了瓶颈，几经努力但改善成果不 。这时正值Kafka流行，于是引起了阿里巴巴开发团队的注意，对kafka的无限消息堆积，高效持久化 度等特性非常赞赏。但不幸的是，Kafka不能满足他们的要求，特别是在低延迟和高可靠性方面。在 种情况下，阿里巴巴决定发明一个新的消息传递引擎来处理更广泛的用例集，从传统的发布/订阅方 到大批量实时零损失容忍交易系统。 里程碑 2012年，阿里巴巴开始开发RocketMQ，经历了数次双11核心交易链路检验。 RocketMQ在社区各方面的努力下，茁壮发展，很多功能都得到了加强。 RocketMQ的技术概览 在我们看来，它最大的创新点在于能够通过精巧的横向、纵向扩展，不断满足与日俱增的海量消息在 吞吐、高可靠、低延迟方面的要求。 目前RocketMQ主要由NameServer、Broker、Producer以及Consumer四部分构成，如下图所示。 原文链接：Apache RocketMQ 介绍 Nam

重要 重要 并行行为可能会认为内容源，如您的镜像 registry 或 Red Hat Satellite 服务器。准备服务 器的基础架构 pod 和操作系统补丁可帮助防止出现这个问题。 从最低延迟控制节点（LAN 速度）运行安装程序。不建议在广域网络(WAN)上运行，因此不会因为丢失 的网络连接运行安装。 Ansible 为 性能和扩展提供了自己的指导，包括使用 RHEL 6.6 或更高版本来确保 etcd。 通过以下方法优化此流量路径： 在 master 主机上运行 etcd。默认情况下，etcd 在所有 master 主机上的静态 pod 中运行。 确保 master 主机之间有一个不协调、低延迟 LAN 通信链接。 OpenShift Container Platform master 会积极缓存资源的反序列化版本，以简化 CPU 负载。但是，如果 较小的 pod 集群小于 1000 个 [1]、Azure 磁 盘 File 在 OS 中作为要挂载的文件系统导出 也称为网络附加存储（Network Attached Storage，NAS） 取决于不同的协议、实现、厂商及范围，其并 行性、延迟、文件锁定机制和其它功能可能会 有很大不同。 聚合模式/独立于模式 GlusterFS [1], RHEL NFS, NetApp NFS [2], Azure File, Vendor NFS