基于Apache APISIX 与RocketMQ 构建云原生一体化架构Broker和Store节点分离部署、独立扩缩 • 可分可合,适应多种业务场景,降低运维负担 云原生基础设施: • 可观测性能力云原生化,OpenTelemetry 标准化 • Kubernetes 一键式部署扩容交付 W r i t e h e r e S o m e t h i n g Ab o u t 全新 POP 消费模型 服务端负载均衡 消除 Consumer 与 Queue 你集群是正常的,但我消费就是出问题了,怎么办!? 无损弹性扩缩 固定分区面临的挑战 • 无切换架构中,主节点宕机,备节点不可写,分区数量减少 • 容量不足,Kafka 分区迁移时,会导致网络风暴,耗时极长 问题重点 • 在主节点宕机时,备节点要有自动切换为主的能力 • 容量调整时,不能产生数据迁移,且要在秒级完成 固定分区使用场景 • 任务计算过程中,会将同一个业务类型的数据发到同一个队列0 码力 | 22 页 | 2.26 MB | 1 年前3
Apache RocketMQ on Amazon Web Services具有低延迟,金融级高可用以及厂商中立的特点,目前广泛使用于国内 外的互联网公司。针对 AMAZON WEB SERVICES 客户需要在 AMAZON WEB SERVICES 上 使用 RocketMQ 的需求,我们开发了一键部署的方案,帮助客户快速的在自己的账号 部署一个基于 EC2 的高可用的 RocketMQ 集群。 架构 AMAZON CloudFormation 提供了一种创建和管理相关 AMAZON WEB 等没有达到上限。如果某一项您已经达到上限,请向后台提交⼯单选择申 请提高限制。 3. 如果在该区域内您还没有密钥对,请在 Amazon EC2 控制台的导航窗格中,依 次选择密钥对、创建密钥对,选择默认的.pem 格式,键⼊名称,然后选择创建 并妥善保管好此秘钥。请妥善保管此密钥,若丢失,将无法访问实例。 Page 6 of 18 4. 请通过右上⻆区域选择按钮选择您的目标区域。0 码力 | 18 页 | 1.55 MB | 1 年前3
快速部署高可用的Apache RocketMQ 集群 - Amazon S3顶级项目,RocketMQ 具有低延迟,金融级高可用以及厂商中立的特点,目前广泛使 用于国内外的互联网公司。针对亚马逊云科技客户需要在亚马逊云科技上使用 RocketMQ 的需求,我们开发了一键部署的方案,帮助客户快速的在自己的账号部署 一个基于 EC2 的高可用的 RocketMQ 集群。 架构 Amazon CloudFormation 提供了⼀种创建和管理相关 AMAZON WEB 等没有达到上限。如果某⼀项您已经达到上限,请向后台提交 ⼯单选择申请提⾼限制。 3. 如果在该区域内您还没有密钥对,请在 Amazon EC2 控制台的导航窗格中, 依次选择密钥对、创建密钥对,选择默认的.pem 格式,键⼊名称,然后选择 创建并妥善保管好此秘钥。请妥善保管此密钥,若丢失,将⽆法访问实例。 Page 6 of 21 4. 请通过右上⻆区域选择按钮选择您的⽬标区域。0 码力 | 21 页 | 2.57 MB | 1 年前3
Apache RocketMQ 从入门到实战 代码@2:如果 topic 的元信息不存在,则跳过该主题。 代码@3:如果消费组的订阅信息不存在,则跳过该订阅关系。 代码@4:收集该主题所有的读队列,以 messagequeue 为键,OffsetWrapper 为 值存储在 consumeStats.getOffsetTable() ,见代码@8。 代码@5:设置该队列的最新偏移量。 代码@6:设置该消费组对该队列的消费进度,设置为 statsTable.get(GROUP_GET_NUMS).getStatsDataInMinute(statsKey).get Tps(); // @2 } 代码@1:构建统计 key,其逻辑为:其键为:topic@consumerGroup,即消息主 题@消费组名。 要读懂 代码@2 的代码,先来看一下 rocketmq 监控指标的存储数据结构,如下图 所示: 正如上图所示:RocketMQ0 码力 | 165 页 | 12.53 MB | 1 年前3
RocketMQ v3.2.4 开发指南消费过程要做到幂等(即消费端去重) 如《RocketMQ 原理简介》中所述,RocketMQ 无法避免消息重复,所以如果业务对消费重复非常敏感,务必 要在业务局面去重,有以下几种去重方式 1. 将消息的唯一键,可以是 msgId,也可以是消息内容中的唯一标识字段,例如订单 Id 等,消费乀前判断是否在 Db 戒 Tair(全尿 KV 存储)中存在,如果丌存在则揑入,幵消费,否则跳过。(实际过程要考虑原子性问题,判断0 码力 | 52 页 | 1.61 MB | 1 年前3
共 5 条
- 1













