│ ©2022 VMware, Inc. 14 分布式执行和事务 Ø MVCC q Xmin, Xmax 是节点本地的 Ø 分布式快照 q QD生成，下发给QE q segment本地事务异步两阶段提交，保持一致性 Ø HTAP 优化 q 全局死锁检测 q 只读事务、只涉及到某个节点的操作、vacuum Ø SIGMOD 2021: Greenplum: A Hybrid Database

，当主集群提交事务时，需要 等备集群把日志传到主集群才能提交，对于跨区域或者是两地三中心数据中心来说，保证完全同步的开销是很难接受 的，针对这种情况，Greenplum 7 版本采用了多个集群间异步的方式来处理，来确保数据同步。这样备份集群和主 集群之间可能会存在延迟，延迟的大小是由传输管道的带宽决定的，但在大部分使用场景下，这样的延迟是可以接受 的。 图 3：Greenplum

第一个支持互联网级分析技术（由Google普及）的产品 • 采用新的编程模型，在商用硬件上并行处理和执行 • 可以使客户洞察力和数据货币化程度达到前所未有的高度 MapReduce Greenplum MapReduce的优势 • 处理在任何地点存储的任何类型的数 据 • 将SQL的普遍性与MapReduce的灵 活编程模式结合起来 • 针对业务关键分析功能提供企业级集 成、支持和发布

具有很强数据操纵能力和过程语言的流程控制能力，SQL 语言是专 门为统计和数据分析开发的语言，各种功能和函数琳琅满目，SQL 语言不仅适合开发人员，也适用于分析业务人员，大幅简化了数据 的操作和交互过程。 而对 MapReduce 编程明显是困难的，在原生的 Mapreduce 开发 框架基础上的开发，需要技术人员谙熟于 JAVA 开发和并行原理， 不仅业务分析人员无法使用，甚至技术人员也难以学习和操控。为 了解决易用性的问题，近年来 还有plpythonu，这个是Greenplum自带的language，一些通用的函数， 用 plpythonu 来编写也是极其不错的选择。 关于这两种语言，可以参考 PostgreSQL 文档的【服务器端编程】章节， 以及 Perl 和 Python 语言。 Greenplum 是开放的数据库，又是开源的数据库，可以分享的知识其 实真的很多，如果你这方面的知识基础还不是很高，可以多读一些文 章然后收藏起来，慢慢进步。

者，社 区贡献者包括阿里云、中移动等大公司，也有诸多中小公司和数据库爱好者。 开源之后，Greenplum 把敏捷软件开发方法学引入到分布式数据库的开发中，通过使用站立会议、 回顾会议、结对编程、持续集成、测试驱动、单周迭代等敏捷方法建立了高效的快速反馈系统， 大大提高了产品的质量和客户的满意度。Greenplum 5.0 是开源之后发布的第一个稳定版本，大 约保持 1 个半月一个版本的发布速度。Greenplum

数据访问 混合存储引擎（行存&列存） 多种压缩，多级分区表 索引（B树，位图，GiST） 安全性 语言支持 标准SQL支持，SQL 2003 OLAP扩展 支持 MapReduce 扩展编程语言 (Python,R, Java, Perl, C/C++） 第三方工具 BI 工具, ETL 工具 文本分析，数据挖掘等 管理工具 GP Command Center GP Workload

PageRank 性能 2017.thegiac.com MADlib vs. Spark: 不不同的产品，侧重点不不同 MADlib Spark 算法库 易用性 需要编程 查询优化 成熟度稍差 内存和流处理 通过 Gemfire SQL 语法支持 需要提升 磁盘数据 不是核心焦点 并发性能 不是核心焦点 大数据关联 不是核心焦点

的应用程序(比如WEB服务)，GP MapReduce已经毫无意义了，不提也罢。不过，如 果对性能和稳定性有很高的要求，导出到命令管道，可能会是一项极其复杂的工作，因 为命名管道的状态无法精确的控制和获取，这就导致，在编程时需要设计很多的迂回措 施来解决这些问题，最典型的场景就是以前的gptransfer命令，目前该命令已经废除， 不过，该命令从一开始出现就注定是失败的，可以欣赏一下这段代码注释： # Make ，性 能表现并不好，如果采用128KB到512KB的block来切分文件，会有极大的 性能提升，而且，gpfdist是单进程服务，一边切分数据文件，一边给request 发送数据，如果把数据发送改成异步，单个切分文件的进程，性能完全可以 达到3GB/S甚至4GB/S，而一边切分数据文件，一边发送数据的方式，最高 可以达到大约1.5GB/S的性能。  官方文档说，尽可能在多个网络端口上运