王强-Apache RocketMQ事务消息Available Soft-state Eventual Consistency 分布式事务解决⽅方案 XA 特点: 1. 两阶段提交 2. 仅商业化数据库⽀支持 3. ⽆无法满⾜足⾼高并发场景 分布式事务解决⽅方案 SAGA 特点: 1. 提交+补偿 2. 并发隔离性很难保证 分布式事务解决⽅方案 TCC 特点: 1. 特殊的两阶段提交 2. Try阶段检查/锁定资源 没有真正提交 Account service Send message Receive message 先执⾏行行本地事务还是先发送消息? 交易易型分布式事务的 RocketMQ使⽤用场景 分布式事务解决⽅方案 半消息 远程事务 特点: 1. 稳定,⽀支持⾼高并发 2. 回查机制可靠易易⽤用 3. 不不引⼊入额外的依赖 注意:回查⽅方法需要幂等 Broker 实现细节 Producer with 诸如IoT/IIoT新场景下的规模化部署能⼒力力不不⾜足 • HTTP/RESTful/JSON 灵活调⽤用,监控及运维能⼒力力不不⾜足 • Cloud云⼚厂商⽅方⾯面 • 不不同云⼚厂商之间消息产品互操作性成本较⾼高,⽤用户跨云⼚厂商迁移难 • 云上与云下产品的⽆无缝衔接能⼒力力差 云原⽣生与业界标准 OpenMessaging AMQP • 简单灵活 • 云原⽣生 • ⼚厂商中⽴立 • 语⾔言⽆无关 •0 码力 | 34 页 | 6.17 MB | 1 年前3
Apache RocketMQ 从入门到实战作为一款高吞吐,抗万亿消息堆积的云原生消息平台,目前已 经被国内 75% 以上互联网、金融等公司所采用,逐渐成为企业 IT 架构的核心基础设施。 丁威老师作为资深架构师,在分布式架构、存储方面功底深厚,目前在企业内部负责着 日均千亿级消息流转的 RocketMQ 集群。本书不仅由浅入深的介绍了 RocketMQ 的架 构与实现,而且包含了多年线上超大规模集群开发运维经验的总结,通过本书不仅能够掌握 分布式消息平台的设计原 RocketMQ 进程自动退出排查经验分享 78 1.8 RocketMQ 主题扩分片后遇到的坑 82 1.9 RocketMQ 消息发送 system busy、broker busy 原因分析与解决方案坑 91 1.10 再谈 RocketMQ broker busy 104 1.11 从年末生产故障解锁 RocketMQ 集群部署的最佳实践 108 1.12 RocketMQ 一行代码造成大量消息丢失 msgId 与 offsetMsgId 释疑 131 1.15 RocketMQ ACL 使用指南 141 1.16 RocketMQ 消息轨迹-设计篇 151 1.17 消息发送常见问题与解决方案 155 本文来自『中间件兴趣圈』公众号,仅作技术交流,未授权任何商业行为。 开篇:我的另一种参与 RocketMQ 开源社区的方式 < 6 开篇:我的另一种参与 RocketMQ 开源 社区的方式0 码力 | 165 页 | 12.53 MB | 1 年前3
Apache RocketMQ on Amazon Web Services语言开发的开源的、分布式的消息投递与流数据平台。 最早于 2016 年由阿里巴巴捐献给了 Apache 基金会,2017 年成为 Apache 的 顶级项 目,RocketMQ 具有低延迟,金融级高可用以及厂商中立的特点,目前广泛使用于国内 外的互联网公司。针对 AMAZON WEB SERVICES 客户需要在 AMAZON WEB SERVICES 上 使用 RocketMQ 的需求,我们开发了一键部署的方案,帮助客户快速的在自己的账号 环境中,另一种是 部署到已有 VPC 环 境中。使用默认参数为在新 VPC 环境中 部署以下资源。如果您选择的是将此方案部署 到已有 VPC 中,将跳过 (不创建) 带有星号(*)的组件,并提⽰ 您目前现有的配置。 按照默认 RocketMQ 的部署参数部署完成后,该方案会在用户的 AMAZON WEB SERVICES account 下部署如下的一个架构,包含两个 Nameserver Page 5 of 18 为由光环新网运营的 AMAZON WEB SERVICES(北京)区域,因其对外 提供 2 个可用区,本解决方案将重复使用其中一个可用区来创建第三个⼦网。 部署说明 1. 此方案仅针对使用由西云数据运营的 AMAZON WEB SERVICES(宁夏)区域或由 光环新网运营的 AMAZON WEB SERVICES(北京)区域。在开始之前,请先确保0 码力 | 18 页 | 1.55 MB | 1 年前3
快速部署高可用的Apache RocketMQ 集群 - Amazon S3顶级项目,RocketMQ 具有低延迟,金融级高可用以及厂商中立的特点,目前广泛使 用于国内外的互联网公司。针对亚马逊云科技客户需要在亚马逊云科技上使用 RocketMQ 的需求,我们开发了一键部署的方案,帮助客户快速的在自己的账号部署 一个基于 EC2 的高可用的 RocketMQ 集群。 架构 Amazon CloudFormation 提供了⼀种创建和管理相关 AMAZON WEB SERVICES 部署以下资源。如果您选择的 是将此⽅案部署到已有 VPC 中,将跳过 (不创建) 带有星号(*)的组件,并提⽰ 您⽬ 前现有的配置。 按照默认 RocketMQ 的部署参数部署完成后,该方案会在用户的亚马逊云科技账户下 部署如下的一个架构,包含两个 Nameserver 互为备份,三个 Broker Instance 每个 Broker Instance 上面启动三个 Broker 存储的⼤⼩。快速⼊⻔将 把副本集启动在在不同的可⽤ 区中。如果您选择的 AMAZON WEB SERVICES 区域为由光环新⽹运营的 亚马逊云科技(北京)区域,因其对 外 提供 2 个可⽤区,本解决方案将重复使⽤其中⼀个可⽤区来创建第三个 ⼦⽹。 部署说明 1. 此⽅案仅针对使⽤由西云数据运营的 亚马逊云科技(宁夏)区域或由光环新⽹ 运营的 亚马逊云科技(北京)区域。在开始之前,请先确保您已经有了⼀个可0 码力 | 21 页 | 2.57 MB | 1 年前3
万亿级数据洪峰下的消息引擎Apache RocketMQ低延迟分布式存储系统 – PageCache的毛刺解决方案 Java Heap Lock Page Cache Disk Request Request Request Request Request Request 万级请求/秒/单机 Direct Memory 1.4万亿 低延迟分布式存储系统 – PageCache的毛刺解决方案 ���������������� ���� ������� DirectMemory� ���� ������ ������ 1.4万亿 低延迟分布式存储系统 – PageCache的毛刺解决方案小结 1.4万亿 低延迟分布式存储系统 – PageCache的毛刺解决方案小结 操作系统Page Cache Radix Tree 自旋锁,产生几秒的大毛刺 如果遇到坏盘,可能Block若干分钟,对系统产生致命影响。 操作系统Page0 码力 | 35 页 | 993.29 KB | 1 年前3
万亿级数据洪峰下的消息引擎 Apache RocketMQ低延迟分布式存储系统 – PageCache的毛刺解决方案 Java Heap Lock Page Cache Disk Request Request Request Request Request Request 万级请求/秒/单机 Direct Memory 1.4万亿 低延迟分布式存储系统 – PageCache的毛刺解决方案 ���������������� ���� ������� DirectMemory� ���� ������ ������ 1.4万亿 低延迟分布式存储系统 – PageCache的毛刺解决方案小结 1.4万亿 低延迟分布式存储系统 – PageCache的毛刺解决方案小结 操作系统Page Cache Radix Tree 自旋锁,产生几秒的大毛刺 如果遇到坏盘,可能Block若干分钟,对系统产生致命影响。 操作系统Page0 码力 | 35 页 | 5.82 MB | 1 年前3
Apache RocketMQ 介绍来源网站:链滴 许可协议:署名-相同方式共享 4.0 国际 (CC BY-SA 4.0) Apache RocketMQ 介绍 概要 Apache RocketMQ是一个分布式消息传递和流媒体平台,具有低延迟,高性能和可靠性,万亿级容 和灵活的可伸缩性。它的一个重要特性是支持非日志类型的可靠消息传送,非常适合运用在金融和电 商务领域。目前他是Apache社区的顶级项目,在全球有超过100家公司在其业务中使用RocketMQ RocketMQ 介绍 。 其他消息中间件 RabbitMQ是AMQP规范的参考实现,AMQP是一个线路层协议,面面俱到,很系统,也稍显复杂。 前RabbitMQ已经成为OpenStack Iaas平台首选的消息服务,其背后的支持力度不言而喻。 ActiveMQ最初主要的开发者在LogicBlaze,现在主要开发红帽,是JMS规范的参考实现,也是Apach 旗下的老牌消息服务引擎。JMS虽说是一0 码力 | 5 页 | 375.48 KB | 1 年前3
基于Apache APISIX 与RocketMQ 构建云原生一体化架构2021 5.0 -p rev iew 发布 性能优化、PoP 消费,多存储目录, 轻量级队列 rocketm q-strea m s 轻量级实时计算 引擎发布 5.0 消息事件流融合处理平台 Sta r: 1 .7w C on tributor: 50 0 + RocketMQ 发展历程 W r i t e h e r e S o m e t h i n g a b o u0 码力 | 22 页 | 2.26 MB | 1 年前3
RocketMQ v3.2.4 开发指南17 返样做的好处如下: (1). 队列轻量化,单个队列数据量非常少。 (2). 对磁盘的访问串行化,避免磁盘竟争,丌会因为队列增加导致 IOWAIT 增高。 每个方案都有缺点,它的缺点如下: (1). 写虽然完全是顺序写,但是读却发成了完全的随机读。 (2). 读一条消息,会兇读 Consume Queue,再读 Commit Log,增加了开销。 (3)0 码力 | 52 页 | 1.61 MB | 1 年前3
共 9 条
- 1













