Greenplum 精粹文集
能满足海量数据的计算需求。 分布式存储和分布式计算理论刚刚被提出来,Google 的两篇著名论文 发表后引起业界的关注,一篇是关于 GFS 分布式文件系统,另外一篇 是关于 MapReduce 并行计算框架的理论,分布式计算模式在互联网 行业特别是收索引擎和分词检索等方面获得了巨大成功。 Big Date2.indd 1 16-11-22 下午3:38 2 由此,业界认识到对于海量数据需要一种新的计算模式来支持,这种 主机,并且成本很低,横向的扩展性还可带来系统良好 的成长性。 问 题 来 了, 在 X86 集 群 上 实 现 自 动 的 并 行 计 算, 无 论 是 后 来 的 MapReduce 计算框架还是 MPP(海量并行处理)计算框架,最终还 是需要软件来实现,Greenplum 正是在这一背景下产生的,借助于分 布式计算思想,Greenplum 实现了基于数据库的分布式数据存储和并 行计算(GoogleMapReduce ·数据表多级分区 ·Bitmap 索引 ·Hadoop 外部表 ·Gptext 全文检索 ·并行查询计划优化器和 Orca 优化器 ·Primary/Mirror 镜像保护机制 ·资源队列管理 ·WEB/Brower 监控 Big Date2.indd 7 16-11-22 下午3:38 8 3. Greenplum 的艺术 -- Parallel Everything 前 面 介0 码力 | 64 页 | 2.73 MB | 1 年前3完全兼容欧拉开源操作系统的 HTAP 数据平台 Greenplum
双平面混合集群 0S 高效一键式安装,百节点部署时间<15min。 3. 探索场景创新 边缘计算:发布面向边缘计算场景的版本 openEuler21.09Edae.集成 KubeEdae+边云协同框架,具备边云应用统一管 理和发放等基础能力。 完全兼容欧拉开源操作系统的 HTAP 数据平台 Greenplum 1:Greenplum 纯中立支持主流芯片和操作系统 另外随着越来越多的客户将其生产数据集迁移到公有云中,这种灵活性将成倍增长。Greenplum 目前不但可在国外 的 Amazon Web Services、Microsoft Azure 和 Google 云平台上运行,也可以运行在国内云平台上,如阿里云、 腾讯云等,只需选择要在群集中调配的数据节点数量(不超过预定义的最大大小),然后选择一系列部署选项,群集 开源社区,并由 Greenplum 中文社区开发者在欧拉开源操作系统上完善直至形成在 ARM 平台上可用的版本。 3. ARM 平台测试问题的修复 原本 Greenplum 开源社区配套的测试框架以及测试用例都是基于 X86 平台来进行适配的,对于新的硬件架构,在浮 点数、底层汇编指令都有所不同,此次移植同样对这类问题进行了修复,保证欧拉开源操作系统在多硬件平台构建 RPM 软件包时行为一致,并且通过了0 码力 | 17 页 | 2.04 MB | 1 年前3Greenplum 新一代数据管理和数据分析解决方案
规模数据仓库和分析领域 • 世界级的行业团队进行高性能计算和数据库系统的 前沿开发工作 • 为全球很多最大规模的数据仓库提供提供推动力 • 最先将SQL和Map-Reduce的功能整合到统一的数 据处理框架中 • 可以帮助企业采集所有数据,并在竞争中获得出色 的洞察力 41 Parallel Dataflow Engine • General purpose parallel-dataflow segments • Optional compression on disk for increased storage and IO performance Highly interactive web-based performance monitoring Real-time and historic views of: •Resource utilization •Queries0 码力 | 45 页 | 2.07 MB | 1 年前3Greenplum 6: 混合负载的理想数据平台
Dynamic Partition Elimination 03 动态分区裁剪 公共表达式的下推 高效处理相关子查询 超过8年的投资,多位博士的长期贡献 基于Cascades / Volcano框架, Goetz Graefe 优化分布式大数据系统中特别复杂的查询 18 Madlib: 迭代并行模型训练 Master model = init(…) WHILE model not converged0 码力 | 52 页 | 4.48 MB | 1 年前3Greenplum Database 管理员指南 6.2.1
gpfdist 协议外部表导出数据 ................................................................... - 258 - 使用基于命令的 WEB 型外部表导出数据 ............................................................. - 259 - 使用 COPY 命令导入导出 ... 为每个登录的 User 分配不同的 Role。出于登录和审计的需要,每个被允许登录 到 GP 的使用者都应该分配一个属于自己的 Role。对于应用程序(APP)或者 Web 应用 来说,应该考虑为每个 APP 或者 Web Server 创建独立的 Role。 使用 Group 来管理访问权限。当登录的用户数量较多,且经常需要为类似的用户 授予类似的权限时,可以通过 Group 如果管理员创建ROLE时没有指定资源队列,该ROLE将会被分配到缺省的资源队列 pg_default。 建议管理员为不同类型工作负载创建结构性独立的资源队列。例如,可以为高级用 户、WEB用户、报表管理等创建不同的资源队列。可以根据相关工作的负载压力设置合 适的资源队列限制。目前资源队列的限制包括: 活动语句数量。同时正在执行的最大语句数量。这往往是资源队列的唯一用处。0 码力 | 416 页 | 6.08 MB | 1 年前3VMware Greenplum v6.18 Documentation
Database Cloud Technical Recommendations 308 Operating System 308 Storage 308 Security 308 Amazon Web Services (AWS) 308 Virtual Machine Type 308 Compute 309 Memory 309 Network 309 Storage 309 Elastic Table Data 0 Creating and Using External Web Tables 795 Creating and Using External Web Tables 0 Command-based External Web Tables 795 URL-based External Web Tables 796 Examples for Creating External 6—Multiple files in CSV format with header rows 0 Example 7—Readable External Web Table with Script 799 Example 7—Readable External Web Table with Script 0 Example 8—Writable External Table with gpfdist 7990 码力 | 1959 页 | 19.73 MB | 1 年前3VMware Greenplum v6.19 Documentation
Database Cloud Technical Recommendations 317 Operating System 317 Storage 317 Security 317 Amazon Web Services (AWS) 317 Virtual Machine Type 317 Compute 318 Memory 318 Network 318 Storage 318 Elastic Table Data 0 Creating and Using External Web Tables 804 Creating and Using External Web Tables 0 Command-based External Web Tables 804 URL-based External Web Tables 805 Examples for Creating External 6—Multiple files in CSV format with header rows 0 Example 7—Readable External Web Table with Script 808 Example 7—Readable External Web Table with Script 0 Example 8—Writable External Table with gpfdist 8080 码力 | 1972 页 | 20.05 MB | 1 年前3VMware Greenplum v6.17 Documentation
Database Cloud Technical Recommendations 241 Operating System 241 Storage 241 Security 241 Amazon Web Services (AWS) 241 Virtual Machine Type 241 Compute 242 VMware Greenplum v6.17 Documentation VMware Table Data 0 Creating and Using External Web Tables 727 Creating and Using External Web Tables 0 Command-based External Web Tables 727 URL-based External Web Tables 728 Examples for Creating External 6—Multiple files in CSV format with header rows 0 Example 7—Readable External Web Table with Script 731 Example 7—Readable External Web Table with Script 0 Example 8—Writable External Table with gpfdist 7310 码力 | 1893 页 | 17.62 MB | 1 年前3VMware Tanzu Greenplum v6.20 Documentation
Greenplum v6.20 Documentation VMware, Inc. 13 Operating System 312 Storage 312 Security 312 Amazon Web Services (AWS) 312 Virtual Machine Type 312 Compute 313 Memory 313 Network 313 Storage 313 Elastic Errors in External Table Data 792 Creating and Using External Web Tables 793 Command-based External Web Tables 793 URL-based External Web Tables 794 Examples for Creating External Tables 794 Example header rows 797 Example 7—Readable External Web Table with Script 797 Example 8—Writable External Table with gpfdist 797 Example 9—Writable External Web Table with Script 797 Example 10—Readable and0 码力 | 1988 页 | 20.25 MB | 1 年前3VMware Greenplum 6 Documentation
Distributions 263 Public Cloud Requirements 263 Operating System 263 Storage 263 Security 264 Amazon Web Services (AWS) 264 Virtual Machine Type 264 Compute 264 Memory 264 Network 264 Storage 264 Elastic Errors in External Table Data 628 Creating and Using External Web Tables 628 Command-based External Web Tables 628 URL-based External Web Tables 629 Examples for Creating External Tables 629 Example header rows 632 Example 7—Readable External Web Table with Script 632 Example 8—Writable External Table with gpfdist 632 Example 9—Writable External Web Table with Script 633 Example 10—Readable and0 码力 | 2374 页 | 44.90 MB | 1 年前3
共 19 条
- 1
- 2