从百度文件系统看大型分布式系统设计中的定式与创新• 文件系统 - The Baidu File System - 持久化存储 百度文件系统架构 设计一个分布式系统要考虑的 • 数据与计算的分片 • 分区故障容忍 • 数据一致性 • 系统扩展性 • 延迟与吞吐 • 成本与资源利用率 • … 数据与计算的分片 • 哈希分片 - 简单、均衡 - 扩容复杂、易用性差 - 一致性哈希、虚拟节点 • 按范围、数据量分 - 使用简单 - 需要管理元数据 写入 2. 通知 3. 读取 多副本冗余 一致性问题 • 怎么定义写成功 - 3副本成功, 影响可用性 • 可以读从节点 - 刚写入的读不到 - 不一致 • 只允许读主节点 - 扩展性受限 数据处理模块 数据接收模块 存储 主 从 从 1. 写入 2. 通知 3. 读取 CAP理论 • 简要历史 - Eric Brewer 1998年提出 - 2002年证明 • 多数情况下我们更重视可用性 - CAD->CD • 一致性与延迟的折衷 - 要求强一致的, 容忍延迟 - 要求低延迟的, 选择最终一致 提升系统扩展性 • 架构的可扩展性 - 拆分元数据节点 - 引入MetaServer 提升系统扩展性 • 设计的可扩展性 - 保证在规模扩大5倍或10倍是正常工作 • BFS避免了过渡设计 - 用设计中的不可扩展达到最大的可扩展 • 最多支持6万台机器0 码力 | 24 页 | 937.45 KB | 1 年前3
Nacos架构&原理
卿亮 许进 7 > 推荐序 推荐序 阿里巴巴合伙人 - 蒋江伟(小邪) 随着企业加速数字化升级,越来越多的系统架构采用了分布式的架构,主要目的是为了解决集中化 和互联网化所带来的架构扩展性和面对海量用户请求的技术挑战。这里面其中有⼀个关键点是软负 载。因为整个分布式架构需要有⼀个软负载来协作各个节点之间的服务在线离线状态、数据⼀致性、 以及动态配置数据的推送。这里面最简单的需求就 推送完成;10w 级,SLA 承诺 1w 实例上下线 3s,99.9% 推送完成;100w 级别,SLA 承诺 1w 实例上下线 9s 99.9% 推送完成。 规模:十万级服务/配置,百万级连接,具备强大扩展性。 15 > 简介 Nacos 生态 Nacos 几乎支持所有主流语言,其中 Java/Golang/Python 已经支持 Nacos 2.0 长链接协议,能 最大限度发挥 Nacos 性能。阿里微服务 开源之前在阿里内部已经发展了十年,沉淀了很多优秀的能力,也有很多历史负担,在开源 的时候我们取其精华进行开源,为了提升代码的健壮性和扩展性,进行了充分的分层和模块化设计。 设计原则 极简原则,简单才好用,简单才稳定,简单才易协作。 架构⼀致性,⼀套架构要能适应开源、内部、商业化(公有云及专有云)3 个场景。 扩展性,以开源为内核,商业化做基础,充分扩展,方便用户扩展。 模块化,将通用部分抽象下沉,提升代码复用和健壮性。0 码力 | 326 页 | 12.83 MB | 10 月前3
NSQ - 陈冶stream computing stream computing 使⽤需求 • 数据缓冲,提⾼可⽤性 ,缓冲服务故障 • 数据⼴播,分发给多个服务 • 负载均衡,提⾼消费者的扩展性 使⽤案例 ⼴告点击数统计 Web Service MySQL cluster 4. 正确消费确认 MQ stream computing Web Service stream stream computing stream computing Msg 使⽤需求 • 数据缓冲,提⾼可⽤性 ,缓冲服务故障 • 数据⼴播,分发给多个服务 • 负载均衡,提⾼消费者的扩展性 • 消费反馈,确保消息不丢失 使⽤案例 ⼴告点击数统计 Web Service MySQL cluster User Click User Click User Click 数据⼴播,分发给多个服务 • 负载均衡,提⾼消费者的扩展性 • 消费反馈,确保消息不丢失 • MQ:分布式部署,排除⾃⾝单点故障 使⽤需求 • 数据缓冲,提⾼可⽤性 ,缓冲服务故障 • 数据⼴播,分发给多个服务 • 负载均衡,提⾼消费者的扩展性 • 消费反馈,确保消息不丢失 • MQ:分布式部署,排除⾃⾝单点故障 • MQ:具备横向扩展性,排除性能瓶颈 NSQ 是怎么⾯对这些问题的0 码力 | 37 页 | 2.49 MB | 1 年前3
FISCO BCOS 2.9.0 中文文档维性、易用性、可扩展性, 支持多种SDK,并提供了可视化的中间件工具,大幅缩短建链、开发、部署应用的时间。此外,FISCO BCOS通过信通院可信区块链评测功能、性能两项评测,单链TPS可达两万。 1.1 关键特性 1.2 架构 FISCO BCOS 在2.0中,创新性提出“一体两翼多引擎”架构,实现系统吞吐能力的横向扩展,大幅提升性 能,在安全性、可运维性、易用性、可扩展性上,均具备行业领先优势。 关系,企业可选择不同群组,形成多个不同账本的数据共享和共识,从而快速丰富业务场景、扩大业务 规模,且大幅简化链的部署和运维成本。 两翼指的是支持并行计算模型和分布式存储,二者为群组架构带来更好的扩展性。前者改变了区块中按 交易顺序串行执行的做法,基于DAG(有向无环图)并行执行交易,大幅提升性能;后者支持企业(节 点)将数据存储在远端分布式系统中,克服了本地化数据存储的诸多限制。 多引擎是一系 向上扩展(Scale up)和平行扩展(Scale out)。向上扩展指在有限的资源基础 上优化软硬件配置,极大提升处理能力,如采用更有效率的算法,采用硬件加速等。平行扩展指系统架 构具有良好的可扩展性,可以采用分片、分区的方式承载不同的用户、业务流的处理,只要适当增加软 硬件资源,就能承载更多的请求。 性能指标和软件架构,硬件配置如CPU、内存、存储规格、网络带宽都密切相关,且随着TPS的增加,0 码力 | 1489 页 | 107.09 MB | 1 年前3
FISCO BCOS 3.6.0 中文文档维性、易用性、可扩展性, 支持多种SDK,并提供了可视化的中间件工具,大幅缩短建链、开发、部署应用的时间。此外,FISCO BCOS通过信通院可信区块链评测功能、性能两项评测,单链TPS可达两万。 1.1 关键特性 1.2 架构 FISCO BCOS 在2.0中,创新性提出“一体两翼多引擎”架构,实现系统吞吐能力的横向扩展,大幅提升性 能,在安全性、可运维性、易用性、可扩展性上,均具备行业领先优势。 关系,企业可选择不同群组,形成多个不同账本的数据共享和共识,从而快速丰富业务场景、扩大业务 规模,且大幅简化链的部署和运维成本。 两翼指的是支持并行计算模型和分布式存储,二者为群组架构带来更好的扩展性。前者改变了区块中按 交易顺序串行执行的做法,基于DAG(有向无环图)并行执行交易,大幅提升性能;后者支持企业(节 点)将数据存储在远端分布式系统中,克服了本地化数据存储的诸多限制。 多引擎是一系 向上扩展(Scale up)和平行扩展(Scale out)。向上扩展指在有限的资源基础 上优化软硬件配置,极大提升处理能力,如采用更有效率的算法,采用硬件加速等。平行扩展指系统架 构具有良好的可扩展性,可以采用分片、分区的方式承载不同的用户、业务流的处理,只要适当增加软 硬件资源,就能承载更多的请求。 性能指标和软件架构,硬件配置如CPU、内存、存储规格、网络带宽都密切相关,且随着TPS的增加,0 码力 | 1489 页 | 107.09 MB | 1 年前3
FISCO BCOS 2.9.0 中文文档维性、易用性、可扩展性, 支持多种SDK,并提供了可视化的中间件工具,大幅缩短建链、开发、部署应用的时间。此外,FISCO BCOS通过信通院可信区块链评测功能、性能两项评测,单链TPS可达两万。 1.1 关键特性 1.2 架构 FISCO BCOS 在2.0中,创新性提出“一体两翼多引擎”架构,实现系统吞吐能力的横向扩展,大幅提升性 能,在安全性、可运维性、易用性、可扩展性上,均具备行业领先优势。 关系,企业可选择不同群组,形成多个不同账本的数据共享和共识,从而快速丰富业务场景、扩大业务 规模,且大幅简化链的部署和运维成本。 两翼指的是支持并行计算模型和分布式存储,二者为群组架构带来更好的扩展性。前者改变了区块中按 交易顺序串行执行的做法,基于DAG(有向无环图)并行执行交易,大幅提升性能;后者支持企业(节 点)将数据存储在远端分布式系统中,克服了本地化数据存储的诸多限制。 多引擎是一系 向上扩展(Scale up)和平行扩展(Scale out)。向上扩展指在有限的资源基础 上优化软硬件配置,极大提升处理能力,如采用更有效率的算法,采用硬件加速等。平行扩展指系统架 构具有良好的可扩展性,可以采用分片、分区的方式承载不同的用户、业务流的处理,只要适当增加软 硬件资源,就能承载更多的请求。 性能指标和软件架构,硬件配置如CPU、内存、存储规格、网络带宽都密切相关,且随着TPS的增加,0 码力 | 1489 页 | 107.09 MB | 1 年前3
FISCO BCOS 2.7.2 中文文档BCOS底层平台研发,超80个已在生产环境中稳定运行,覆盖文化版权、司法服务、政务服 务、物联网、金融、智慧社区等领域。 注 注 注解 解 解: FISCO BCOS以联盟链的实际需求为出发点,兼顾性能、安全、可运维性、易用性、可扩展性, 支持多种SDK,并提供了可视化的中间件工具,大幅缩短建链、开发、部署应用的时间。此外,FISCO BCOS通过信通院可信区块链评测功能、性能两项评测,单链TPS可达两万。 1.1 关 关 关键 键特 特 特性 性 性 1.2 架 架 架构 构 构 FISCO BCOS 在2.0中,创新性提出“一体两翼多引擎”架构,实现系统吞吐能力的横向扩展,大幅提升性 能,在安全性、可运维性、易用性、可扩展性上,均具备行业领先优势。 3 FISCO BCOS Documentation, 发 发 发布 布 布 v2.7.2 一体指代群组架构,支持快速组建联盟和建链,让企业建链像建聊天群一样便利。根据业务场景和业务 关系,企业可选择不同群组,形成多个不同账本的数据共享和共识,从而快速丰富业务场景、扩大业务 规模,且大幅简化链的部署和运维成本。 两翼指的是支持并行计算模型和分布式存储,二者为群组架构带来更好的扩展性。前者改变了区块中按 交易顺序串行执行的做法,基于DAG(有向无环图)并行执行交易,大幅提升性能;后者支持企业(节 点)将数据存储在远端分布式系统中,克服了本地化数据存储的诸多限制。 多引擎是一系0 码力 | 1422 页 | 91.91 MB | 1 年前3
FISCO BCOS 2-dev 中文文档BCOS底层平台研发,超80个已在生产环境中稳定运行,覆盖文化版权、司法服务、政务服 务、物联网、金融、智慧社区等领域。 注 注 注解 解 解: FISCO BCOS以联盟链的实际需求为出发点,兼顾性能、安全、可运维性、易用性、可扩展性, 支持多种SDK,并提供了可视化的中间件工具,大幅缩短建链、开发、部署应用的时间。此外,FISCO BCOS通过信通院可信区块链评测功能、性能两项评测,单链TPS可达两万。 1.1 关 关 关键 键特 特 特性 性 性 1.2 架 架 架构 构 构 FISCO BCOS 在2.0中,创新性提出“一体两翼多引擎”架构,实现系统吞吐能力的横向扩展,大幅提升性 能,在安全性、可运维性、易用性、可扩展性上,均具备行业领先优势。 3 FISCO BCOS Documentation, 发 发 发布 布 布 v2.7.1 一体指代群组架构,支持快速组建联盟和建链,让企业建链像建聊天群一样便利。根据业务场景和业务 关系,企业可选择不同群组,形成多个不同账本的数据共享和共识,从而快速丰富业务场景、扩大业务 规模,且大幅简化链的部署和运维成本。 两翼指的是支持并行计算模型和分布式存储,二者为群组架构带来更好的扩展性。前者改变了区块中按 交易顺序串行执行的做法,基于DAG(有向无环图)并行执行交易,大幅提升性能;后者支持企业(节 点)将数据存储在远端分布式系统中,克服了本地化数据存储的诸多限制。 多引擎是一系0 码力 | 1324 页 | 85.58 MB | 1 年前3
FISCO BCOS 2.9.0 中文文档展人才共育合作,培育区 块链产业人才超8万人次,已发展成为最大最活跃的国产开源联盟链生态圈之 一。 注解 FISCO BCOS以联盟链的实际需求为出发点,兼顾性能、安全、可运维性、 易用性、可扩展性,支持多种SDK,并提供了可视化的中间件工具,大幅 缩短建链、开发、部署应用的时间。此外,FISCO BCOS通过信通院可信区 块链评测功能、性能两项评测,单链TPS可达两万。 关键特性 整体架构 监管审计 基于WeBASE,提供监管审计入口 架构 FISCO BCOS 在2.0中,创新性提出“一体两翼多引擎”架构,实现系统吞吐能 力的横向扩展,大幅提升性能,在安全性、可运维性、易用性、可扩展性 上,均具备行业领先优势。 一体指代群组架构,支持快速组建联盟和建链,让企业建链像建聊天群一样 便利。根据业务场景和业务关系,企业可选择不同群组,形成多个不同账本 的数据共享和共识,从而快速丰富业务场景、扩大业务规模,且大幅简化链 节点等待父节点或其他非leader节点同步prepare包最长时延为100ms max_request_missedTxs_waitTime=100 区块同步优化配置 为了增强区块链系统在网络带宽受限情况下的可扩展性,FISCO BCOS v2.2.0 对区块同步进行了优化,详细的优化策略请参考这里。可通过 group.group_id.ini的[sync].sync_block_by_tree开启或关闭区块同步优化0 码力 | 2649 页 | 201.08 MB | 1 年前3
FISCO BCOS 2.8.0 中文文档平台研发,超80个已在生产环境中稳定运行,覆盖文化版权、司法服务、政 务服务、物联网、金融、智慧社区等领域。 注解 FISCO BCOS以联盟链的实际需求为出发点,兼顾性能、安全、可运维性、 易用性、可扩展性,支持多种SDK,并提供了可视化的中间件工具,大幅 缩短建链、开发、部署应用的时间。此外,FISCO BCOS通过信通院可信区 块链评测功能、性能两项评测,单链TPS可达两万。 关键特性 整体架构 监管审计 基于WeBASE,提供监管审计入口 架构 FISCO BCOS 在2.0中,创新性提出“一体两翼多引擎”架构,实现系统吞吐能 力的横向扩展,大幅提升性能,在安全性、可运维性、易用性、可扩展性 上,均具备行业领先优势。 一体指代群组架构,支持快速组建联盟和建链,让企业建链像建聊天群一样 便利。根据业务场景和业务关系,企业可选择不同群组,形成多个不同账本 的数据共享和共识,从而快速丰富业务场景、扩大业务规模,且大幅简化链 节点等待父节点或其他非leader节点同步prepare包最长时延为100ms max_request_missedTxs_waitTime=100 区块同步优化配置 为了增强区块链系统在网络带宽受限情况下的可扩展性,FISCO BCOS v2.2.0 对区块同步进行了优化,详细的优化策略请参考这里。可通过 group.group_id.ini的[sync].sync_block_by_tree开启或关闭区块同步优化0 码力 | 2534 页 | 212.43 MB | 1 年前3
共 104 条
- 1
- 2
- 3
- 4
- 5
- 6
- 11













