Greenplum 架构概览Greenplum 架构概览 基本拓扑结构 如上图,我们可以认为 Greenplum(后简称 GP) 就是很多个 PostgreSQL 实例所组成的集群。GP 对外提供统⼀的数据接⼝,并帮助⽤户⾃动完成数据分⽚、并⾏ 查询与聚合等诸多分布式数据库功能 GP 是⼀种典型的 Master-Segment 架构,⼀个 GP 集群通常由⼀个 Master 节点、⼀个 Standby Master Master 节点以及多个 Segment 节点所组成 Master 节点通常不存储数据,只作为数据库的⼊⼝对 Segment 进⾏管理;Standby Master 节点则为 Master 提供⾼可⽤⽀持;⽽ Segment 节点就是真正的⼯作 节点,数据存储在此处,并且⼀个 Segment 节点上通常会有多个 PostgreSQL 实例 Master-Segment 和 Master- Slave Master-Slave 模型下,Master 和 Slave 拥有相同的数据,并且 Master 是存储和处理数据的唯⼀⼊⼝,Slave 仅复制 Master 的 数据。⽐如 MySQL 的主从模型、Redis 的主从模型 在 Master-Segment 模型下,⾸先 Master 节点不存储数据,其次就是数据将会以分⽚的⽅式存储在多个 Segment 节点中。这⾥可以 类⽐ Redis Cluster,只不过0 码力 | 1 页 | 734.79 KB | 1 年前3
TiDB 实践 HTAP 的架构进展和未来展望-韦万0 码力 | 32 页 | 6.61 MB | 1 年前3
云原生虚拟数仓 PieCloudDB 的架构和关键模块实现OpenPie Confidential • 在世界范围内的统计信息显示,Nosql和数据湖已经不在数据分析 领域占有主要市场 • Nosql和数据湖缺少很多支持数据分析的重要特性 o 缺少在高并发场景下的隔离性和一致性 o 和现有的BI工具很难集成 • 关系型数据库已经重新成为数据分析的主要平台 NoSQL 和数据湖已经不再是数据分析的主要平台 @2022 OpenPie. All rights Nosql本身对于高级分析支持差 o 图形,地理信息 • Nosql对于复杂查询的支持差 NoSQL和数据湖很难胜任数据分析的工作场景 @2022 OpenPie. All rights reserved. OpenPie Confidential • 使用数据湖为基础进行数据分析需要多个组件进行集成部署,多个 组件的配合需要大量的开发工作 • 许多缺乏 ANSI SQL 支持,需要专门的技术技能 制 了分析和创新的操作化 NoSQL和数据湖为基础的基础设施需要的分析工具不容易集成和部署 @2022 OpenPie. All rights reserved. OpenPie Confidential • 公有云无限的计算池可以提供理想的弹性计算资源 • 公有云廉价且无限容量的对象存储 • 传统数仓缺乏弹性和存算分离,难以利用公有云的优势 以关系型数据库为基础的数据仓库很难适应云环境0 码力 | 43 页 | 1.14 MB | 1 年前3
MongoDB 分布式架构演进Postgres Conference China 2016 中国用户大会 Postgres Conference China 2016 中国用户大会 MongoDB 分布式架构演进 张友东(林青) 阿里云数据库技术团队 2016Postgres中国用户大会 Postgres Conference China 2016 中国用户大会 2016Postgres中国用户大会 Postgres 2016Postgres中国用户大会 Postgres Conference China 2016 中国用户大会 文档模型 – 接近真实对象模 型,对开发人员友 好 – Schema free,适 应灵活多变的需 求,快速迭代 – 数组、内嵌文档支 持,数据聚集,提 升读写性能 2016Postgres中国用户大会 Postgres Conference China 2016 中国用户大会 今天不谈文档模型 China 2016 中国用户大会 复制集 • 通过 raft 协议选举出 Primary • 所有写请求都写到 Primary,并同步到 Secondary • 当 Primary 故障时,自动选出新的 Primary 节点 Primary Secondary Secondary heartbeat Secondary Secondary 2016Postgres中国用户大会 Postgres0 码力 | 29 页 | 2.03 MB | 1 年前3
Apache ShardingSphere(Incubating)云架构演化Apache ShardingSphere(Incubating) 云架构演化 Juan Pan panjuan@apache.org JD Digits 2018年PostgreSQL中国技术大会 Apache u 完全开源 u Apache的首个分布式数据库中间件 u 京东主导,多公司参与 u 应用广泛,已知70+公司的应用案例 2018年PostgreSQL中国技术大会 发展历程 京东数科加入 2018.05 Ø 成立社区 2018.11 Ø 进入Apache孵化器 2018.08 Ø star突破5000 2018年PostgreSQL中国技术大会 ShardingSphere架构 核心功能 数据分片 分布式事务 数据库治理 弹性伸缩 管控界面 接入端 Sharding- JDBC Sharding- Proxy Sharding- Sidecar Apache …… 2018年PostgreSQL中国技术大会 分布式数据库中间优势 ü 底层数据库成熟性 ü 增量持续革新 ü 接入与运维成本低 2018年PostgreSQL中国技术大会 数据库中间件应具备的能力 1 数据分片 2 3 分布式事务 数据库治理 4 弹性伸缩 分片化 数据一致 性 可观测 治理能力 弹性化 2018年PostgreSQL中国技术大会0 码力 | 34 页 | 5.07 MB | 1 年前3
Apache ShardingSphere(Incubating) 云架构演化ShardingSphere(Incubating) 云架构演化 京东数科-张亮(email: zhangliang@apache.org) 京东数科-潘娟(email: panjuan@apache.org ) Book Apache 完全开源 Apache的首个分布式数据库中间件 京东主导,多公司参与 应用广泛,已知70+公司的应用案例 发展历程 2015.10 ShardingSphere架构 核心功能 数据分片 分布式事务 数据库治理 弹性伸缩 管控界面 接入端 Sharding-JDBC Sharding- Proxy Sharding- Sidecar Apache ShardingSphere 云原生 无中心 零侵入 互联网应用架构发展 单体式架构 分布式微服务 云原生架构 系统解耦 可用性提升 MySQL Oracle PostgreSQL SQLServer …… 分布式数据库中间优势 底层数据库成熟性 增量持续革新 接入与运维成本低 数据库中间件应具备的能力 1 数据分片 2 3 分布式事务 数据库治理 4 弹性伸缩 数据分片 App2 DB App1 App3 App2 DB10 码力 | 37 页 | 3.00 MB | 1 年前3
孟浩然-Apache ShardingSphere 架构解析&应用实践Apache ShardingSphere 架构解析与应用实践 孟浩然 2021/12/11 01 孟浩然 SphereEx 高级研发工程师 Apache ShardingSphere PMC 曾就职京东科技,负责数据库产品研发,热爱开源,关注数据库生态,目前就职 SphereEx , 专 注于 Apache ShardingSphere 分布式数据库中间件研发以及开源社区建设 1 1. Apache ShardingSphere 5.0.0 架构解析 2. 5.0.0 应用实践 3. Database Plus 解决方案 目录 产 品 定 位 l 构建异构数据库的上层标准和生态 l 提供精准化和差异化的能力 产 品 定 位 4.X 5.X 定位 分 库 分 表 中 间 件 分 布 式 数 据 库 生 态 系 统 功能 提 供 基 础 功 能 提 供 基 础 置 文 件 标 准 D i s t S Q L 耦合 耦合较大,存在功能依赖 相 互 隔 离 , 互 无 感 知 组合方式 固 定 的 组 合 方 式 : 以 数 据 分 片 为 基 础 , 叠 加 读 写 分 离 和 数 据 加 密 等 功 能 自 由 的 组 合 方 式 : 数 据 分 片 、 读 写 分 离 和 数 据 加 密 等 功 能 自 由 组 合 使 用 产 品 架 构 部0 码力 | 31 页 | 2.36 MB | 1 年前3
02 TiDB Operator 架构与实现 付业成Implemention Presented by Yecheng Fu (@cofyc) PingCAP.com Agenda ● TiDB Operator 简介 ● 扩展 Kubernetes 的几种方式 ● TiDB Operator 实现 TiDB Operator 是什么 PingCAP.com Cloud Native Era: Portable, Scalable, Automated TiDB PingCAP.com Kubernetes Pattern - Declarative Model - 用户描述自己的期望,提交给 Kubernetes API Server - Kubernetes 根据用户的期望以及当前的状态,协调各方达成用户的期望 PingCAP.com - Kubernetes has pod, deployment, statefulset, etc Custom Resource & Controller Desired State Actual State Compare & Make Changes 扩展 Kubernetes 的几种方式 PingCAP.com Common ways to extend Kubernetes - Custom Resource - TidbCluster - TidbInitializer0 码力 | 47 页 | 1.73 MB | 6 月前3
MySQL 数据库架构灾难恢复解决方案MySQL 数据库架构 灾难恢复解决方案 MySQL InnoDBClusterSet 介绍 MySQL SE 罗伟文 2 / 55 Safe Harbor Statement 以下内容旨在概述我们的一般产品方向。它仅供参考,不得纳入任何合同。它并不提供任何材料、代码或功能的承诺,不应据此做出购买决策。 Oracle 产品描述的任何特性或功能的开发、发布和时间安排仍由 Oracle 自行决定。 灾难和中断:主要原因 停电是导致重大中断的最大原因 Copyright @ 2021 Oracle and/or its affiliates. IT 灾难和中断:代价不断上升 超过一半经历过代价超过10 万美元的中断。 Copyright @ 2021 Oracle and/or its affiliates. 4 / 55 IT 灾难和中断:例子 5 小时的计算机中断代价 1.5 亿美元。该航空公司最终在停电当天取消 亿美元。该航空公司最终在停电当天取消 了约1,000 个航班,并在接下来的两天内停飞了另外1,000 个航班。 由于取消约130 个航班和延误200 个航班,成千上万的乘客滞留在世界各 地。 在法国云服务irm 的故障后, 数百万个网站下线了。Anger 预计将使公司 损失超过1.05 亿欧元。 数以百万计的银行客户无法访问在线帐户。银行花了将近2天的时间才恢 复正常运作。 5 / 55 Copyright0 码力 | 52 页 | 3.07 MB | 1 年前3
QCon北京2018-《TiDB架构与开源之路》-申砾TiDB 架构及开源之路 申砾 @ PingCAP About Me • VP of Engineering @ PingCAP • Netease/360/PingCAP • Tech lead of TiDB About PingCAP • Since 2015 • Beijing, Shanghai, Guangzhou, Silicon Valley, Home • Open-Source0 码力 | 44 页 | 11.38 MB | 1 年前3
共 160 条
- 1
- 2
- 3
- 4
- 5
- 6
- 16













