Best Practices for MySQL with SSDsLinux 3.19.0‐14‐generic MySQL Server 5.7.11 Percona Server 5.7.10‐3 Storage SAS HDD 2x SEAGATE ST600MP0005 15K rpm SATA SSD 2x Samsung 850 PRO NVMe SSD 2x Samsung XS1715 0‐14‐generic Percona Server 5.7.11‐4 Storage SAS HDD 2x SEAGATE ST600MP0005 15K rpm SATA SSD 2x Samsung 850 Pro SAS SSD 2x Samsung PM1633 NVMe 2x Samsung PM1725 It is SSDs. Mean CPU % utilization (User+Sys) on the Quad Socked Server Mean CPU % 15K rpm SAS‐HDD SATA SSD SAS SSD NVMe SSD 50 connections 0.4% 5.8% 15.9% 22.3% 100 connections 0.4% 13.4%0 码力 | 14 页 | 416.88 KB | 1 年前3
Greenplum 精粹文集架构,后者最大瓶颈就是在 IO 吞吐上,在大规模数据处理时,IO 无法及时 feed 数据给到 CPU, CPU 资源处于 wait 空转状态,无法充分利用系统资源,导致 SQL 效 率低下: 一台内置 16 块 SAS 盘的 X86 服务器,每秒的 IO 数据扫描性能约在 2000MB/s 左右,可以想象,20 台这样的服务器构成的机群 IO 性能 是 40GB/s,这样超大的 IO 吞吐是传统的 Storage 中,通过并行计算获得数十倍性 能提高。 另外,GPTEXT(lucent 全文检索)、Apache Madlib(开源挖掘算法)、 SAS algorithm、R 都是通过 UDF 方式实现在 Greenplum 集群中分布 式部署,从而获得库内计算的并行能力。这里可以分享的是,SAS 曾 经做过测试,对 1 亿条记录做逻辑回归,采用一台小型机耗时约 4 个 多小时,通过部署到 Greenplum 集群中,耗时不到 10K RPM SAS 盘,采用 RAID5 或者 RAID10,需要预留单 独的 hotspare 盘),CPU 2 路 8 核及以上(主频 2.5GHZ 以上),1-2 块 RAID 卡(单块 RAID 卡的 cache 大小 1GB 以上,并带有掉电保护 功能,RAID 卡应为多通道,目前接触的硬件厂商中,单通道支持的最 大磁盘数为 16 块) ·硬盘尽量选 用 SAS 盘,从实践经验看,硬盘故障是0 码力 | 64 页 | 2.73 MB | 1 年前3
TiDB中文技术文档位通用硬件服务器平台。对于开发,测试,及生产环境的服务 器硬件配置有以下要求和建议: 组件 CPU 内存 本地存储 网络 实例数量(最低要求) TiDB 8核+ 16 GB+ SAS, 200 GB+ 千兆网卡 1(可与 PD 同机器) PD 8核+ 16 GB+ SAS, 200 GB+ 千兆网卡 1(可与 TiDB 同机器) TiKV 8核+ 32 GB+ SSD, 200 GB+ 千兆网卡 3 服务器总计 4 注: 构建 组件 CPU 内存 硬盘类型 网络 实例数量(最低要求) TiDB 16核+ 48 GB+ SAS 万兆网卡(2块最佳) 2 PD 8核+ 16 GB+ SSD 万兆网卡(2块最佳) 3 TiKV 16核+ 48 GB+ SSD 万兆网卡(2块最佳) 3 监控 8核+ 16 GB+ SAS 千兆网卡 1 服务器总计 9 注: 生产环境中的 TiDB 和 PD 可以部署和运行在同服务器上,如 TiDB 8核+ 16 GB+ SAS, 200 GB+ 千兆网卡 1(可与 PD 同机器) PD 8核+ 16 GB+ SAS, 200 GB+ 千兆网卡 1(可与 TiDB 同机器) TiKV 8核+ 32 GB+ SSD, 200 GB+ 千兆网卡 3 服务器总计 4 组件 CPU 内存 硬盘类型 网络 实例数量(最低要求) TiDB 16核+ 48 GB+ SAS 万兆网卡(2块最佳) 2 PD0 码力 | 444 页 | 4.89 MB | 6 月前3
Greenplum 介绍术领域取得了突出成就。 Greenplum 生态完善。得益于对 SQL 标准的出色支持,Greenplum 可以与上下游的各种产品实 现集成,包括 PgAdmin、Informatica、Cognos、SAS、Talend、Qlik、Tableau、Anaconda、 Microstrategy、Boundless、Zattset、Datometry 等,涵盖 ETL、商业智能、高级分析、可视化、 集成分析、GIS0 码力 | 3 页 | 220.42 KB | 1 年前3
Qcon北京2018--《MySQL的Docker容器化大规模实践》--王晓波4核4G 4核8G 8核8G 8核16G 16核16G 16核64G 32核64G 32核128G 一主一从 分片集群 一主多从 SATA-SSD PCIE-SSD 大容量磁盘SAS 配置 DB架构 硬件选型 机房 A机房 B机房 C机房 D机房 容器化之后的MySQL就是一个私有DB云 主 从 集 群 创 建 分 片 集 群 创 建 集 成 高 可 用 方 案0 码力 | 32 页 | 7.11 MB | 1 年前3
Greenplum机器学习⼯具集和案例改良后 X 对数据集的探索有限 ✓ 在Greenplum里充分探索了数据集 X 对Pivotal产品线不不熟悉 ✓ 在Greenplum上充分利用了MADlib 和PL/X X 在SAS和Excel上有很多⼿手动流程 ✓ 在Greenplum内部实现了了流程⾃自动 化 X 代码复杂冗余,很多数据类型 转换 ✓ 代码更更精简,更更便便于维护的代码 X 原始模型预测效果不不理理想0 码力 | 58 页 | 1.97 MB | 1 年前3
Greenplum Database 管理员指南 6.2.1Master 的连接数是有限的,缺省值为 250 个,如果要大规模提升连接的可用数 量,可以配置使用 GP 自带的 pgbouncer 连接池,这对于一些应用场景会很有帮助, 例如 SAS 等软件连接 GP 时,由于这些软件自身无法严格限制连接数,pgbouncer 会 是一个有效的缓解连接数过大的方案,例如按照如下方式进行配置: $ cat pgbouncer.ini [databases] Server Integration Services (SSIS) and Reporting Services (SSRS) Ascential Datastage SAS Cognos GP专业技术支持可以协助用户配置他们选定的第三方工具协同GP工作。 连接故障排除 有很多导致客户端程序无法成功连接GP的原因。本节介绍一些常见的问题并说明 X86配置,OLAP场景的IO问题其实 已经解决,24块10K转速的SAS机械盘,配合主流的Raid卡,划分为2组Raid 5,连 续读写能力已经可以达到3GB/S甚至更高,再配合库内压缩,这样的IO吞吐能力,80 Core的CPU配置也能常常跑满CPU资源,所以,仅从IO性能的角度来说,OLAP场景, 24块10K转速的SAS机械盘已经完全能够胜任。如果要考虑OLTP场景的IOPS能力和磁 盘0 码力 | 416 页 | 6.08 MB | 1 年前3
Firebird 1.5 QuickStart Spanishconoce la dirección IP “nativa” de sus tarjetas de red, y son diferentes, puede simplemente usar ésas. • Si su intención es probar una instalación en una única máquina como cliente y servidor, debería0 码力 | 26 页 | 174.63 KB | 1 年前3
TiDB v5.4 Documentationon the same machine with PD) PD 4 core+ 8 GB+ SAS, 200 GB+ Gigabit network card 1 (can be deployed on the same machine with TiDB) TiKV 8 core+ 32 GB+ SAS, 200 GB+ Gigabit network card 3 TiFlash 32 core+ core+ 64 GB+ SSD, 200 GB+ Gigabit network card 1 TiCDC 8 core+ 16 GB+ SAS, 200 GB+ Gigabit network card 1 Note: • In the test environment, the TiDB and PD instances can be deployed on the same server Component CPU Memory Hard Disk Type Network Instance Number (Minimum Requirement) TiDB 16 core+ 48 GB+ SAS 10 Gigabit network card (2 preferred) 2 PD 8 core+ 16 GB+ SSD 10 Gigabit network card (2 preferred)0 码力 | 3650 页 | 52.72 MB | 1 年前3
TiDB v5.1 DocumentationNumber (Minimum Requirement) PD 4 core+ 8 GB+ SAS, 200 GB+ Gigabit network card 1 (can be deployed on the same machine with TiDB) TiKV 8 core+ 32 GB+ SAS, 200 GB+ Gigabit network card 3 TiFlash 32 core+ core+ 64 GB+ SSD, 200 GB+ Gigabit network card 1 TiCDC 8 core+ 16 GB+ SAS, 200 GB+ Gigabit network card 1 Note: • In the test environment, the TiDB and PD instances can be deployed on the same server Component CPU Memory Hard Disk Type Network Instance Number (Minimum Requirement) TiDB 16 core+ 32 GB+ SAS 10 Gigabit network card (2 preferred) 2 PD 4 core+ 8 GB+ SSD 10 Gigabit network card (2 preferred)0 码力 | 2745 页 | 47.65 MB | 1 年前3
共 49 条
- 1
- 2
- 3
- 4
- 5













