...................................................................................... 18 7.2.2 同步刷盘 ................................................................................................ .................................................................................... 25 7.13 HA，同步双写/异步复制 ........................................................................................... Broker 集群中只 要有一台机器丌可用，则整个集群都丌可用，服务可用性大大降低。 如果服务器部署为同步双写模式，此缺陷可通过备机自劢切换为主避免，丌过仍然会存在几分钟的服务丌 可用。（依赖同步双写，主备自劢切换，自劢切换功能目前迓未实现） 目前已知的应用只有数据库 binlog 同步强依赖严格顺序消息，其他应用绝大部分都可以容忍短暂乱序，推 荐使用普通的顺序消息。  Message

NettyRemotingAbstract Server 与 Client 公用抽象类 ............................................... 49 1. invokeSyncImpl 同步调用实现 .................................................................................. 49 2. invokeAsyncImpl 调底层通信层向 broker 发送拉消息请求 如果 master 压力过大，会建议去 slave 拉取消息 如果是到 broker 拉取消息清楚实时提交标记位，因为 slave 不允许实时提交消费进 度，可以定时提交 //TODO 关于 master 拉消息实时提交指的是什么？ 10. 拉到消息后回调 PullCallback 处理 broker 返回结果 pullResult 更新从哪个 启动定时向静态服务器获取 namesrv 地址的任务 12. 如果 broker 是 master， 启动任务打印 slave 落后 master 没有同步的 bytes 如果 broker 是 slave，启动任务定时到 mastser 同步配置信息 四：HA & master slave 在 broker 启动的时候 BrokerController

久化 度等特性非常赞赏。但不幸的是，Kafka不能满足他们的要求，特别是在低延迟和高可靠性方面。在 种情况下，阿里巴巴决定发明一个新的消息传递引擎来处理更广泛的用例集，从传统的发布/订阅方 到大批量实时零损失容忍交易系统。 里程碑 2012年，阿里巴巴开始开发RocketMQ，经历了数次双11核心交易链路检验。 2016年11月11日，RocketMQ又一次在阿里巴巴全球购物节上处理了1.2万亿个并发在线消息传输， 发送到Broker集群，发送 延时，支持快速失败。 Consumer也由用户部署，支持PUSH和PULL两种消费模式，支持集群消费和广播消息，提供实时的 息订阅机制，满足大多数消费场景。 特点 ● RocketMQ支持异步实时刷盘，同步刷盘，同步复制，异步复制。具有高可靠性。不会因为操作系 的崩溃而导致数据丢失。 ● RocketMQ经过一系列的实践和优化，处理速度从最初的10,000TPS到目前已经超过50

容量峰值具有随机性，弹性要求高 • 业务场景复杂、集成要求尽可能简单 • 运维及流量调拨要求高 极简架构 高性能 金融级高可靠 打造业务消息领域首选 零依赖 可扩展 低延迟 高吞吐 强同步刷盘 ACK 机制 普通消息 顺序消息 延迟消息 事务消息 重试消息 死信消息 设计思想： 1.消息不丢、高可靠是架构的基础 2.时延优先，兼顾吞吐 3.收敛业务共性问题，提供丰富的业务消息类型 rocketm q-con n ect 进入孵化 2021 5.0 -p rev iew 发布 性能优化、PoP 消费，多存储目录， 轻量级队列 rocketm q-strea m s 轻量级实时计算 引擎发布 5.0 消息事件流融合处理平台 Sta r: 1 .7w C on tributor: 50 0 + RocketMQ 发展历程 W r i t e h e r e S 基础设施支持，降低成本 轻量级SDK： • 全面支持云原生通信标准 gRPC 协议 • 无状态 Pop 消费模式，多语言友好，易集成 从业务走向数据： • 事件流场景支撑 • 面向 SQL 的轻量级实时计算引擎 可分可合的存储计算分离： • Broker 升级为真正的无状态服务节点，无 binding • Broker和Store节点分离部署、独立扩缩 • 可分可合，适应多种业务场景，降低运维负担

核心工作机制 温馨提示：建议参考代码 RocketMQ4.4 版本，4.5 版本引入了多副本机制，实现了 主从自动切换，本文并不关心主从切换功能。 一、初识主从同步 主从同步基本实现过程如下图所示： RocketMQ 的主从同步机制如下：  首先启动 Master 并在指定端口监听；  客户端启动，主动连接 Master，建立 TCP 连接；  客户端以每隔 5s 的间隔时间向 文件中，然后向 Master 汇报拉 取进度，并更新下一次待拉取偏移量；  然后重复第 3 步； RocketMQ 主从同步一个重要的特征：主从同步不具备主从切换功能，即当主节点宕 机后，从不会接管消息发送，但可以提供消息读取。 本文并不会详细分析 RocketMQ 主从同步的实现细节，如大家对其感兴趣，可以查阅 笔者所著的《RocketMQ 技术内幕》或查看笔者博文：https://blog 主，从服务器都在运行过程中，消息消费者是从主拉取消息还是从从拉取？ RocketMQ 主从同步架构中，如果主服务器宕机，从服务器会接管消息消费，此时消 息消费进度如何保持，当主服务器恢复后，消息消费者是从主拉取消息还是从从服务器拉取， 主从服务器之间的消息消费进度如何同步？ 三、原理探究 1. RocketMQ 主从读写分离机制 RocketMQ 的主从同步，在默认情况下 RocketMQ 会优先选择从主服务器进行拉取

tomcat-embed-core-8.5.46.jar ● bin目录下放的是脚本文件 ● conf目录，配置文件 2m-2s-async 双主双从异步复制模式 2m-2s-sync 双主双从同步双写模式 2m-noslave 双主模式 ● lib 存放的依赖jar包 测试namesrv的启动 启动命令： nohup /Users/gitsilence/JavaTools/rocketmq/rocketmq-4 fileReservedTime=48 # Broker的角色，AYNSC_MASTER=异步复制master，SYNC_MASTER=同步双写master，SLAVE= lave节点 brokerRole=ASYNC_MASTER # 刷盘方式，ASYNC_FLUSH=异步刷盘，SYNC_FLUSH=同步刷盘 flushDiskType=ASYNC_FLUSH # broker对外服务的监听端口 listenPort=10911 fileReservedTime=48 # Broker的角色，AYNSC_MASTER=异步复制master，SYNC_MASTER=同步双写master，SLAVE= lave节点 brokerRole=SLAVE # 刷盘方式，ASYNC_FLUSH=异步刷盘，SYNC_FLUSH=同步刷盘 flushDiskType=ASYNC_FLUSH # broker对外服务的监听端口 listenPort=11011

computing storage separating architecture� 典型应⽤用场景 ⾦金金融交易易 电⼦子商务 智能制造 分布式事务 异步解耦 IoT/IIoT 决策分析 实时计算 概念模型 Broker A Producer A Topic A Broker B Topic B ConsumerGroupA ConsumerGroupB Consumer