## Greenplum资源管理器 姚珂男/Pivotal kyao@pivotal.io ## Agenda • Greenplum数据库 • Resource Queue • Resource Group ## Greenplum数据库 • 基于PostgreSQL • 分布式 • OLAP • MPP(Massively Parallel Processing) ## Greenplum数据库 优化器不能被纳入资源管理器 ## Resource Queue ## • Priority is rough – 不能精确控制CPU - CHECK FOR INTERRUPTS – BackoffBackendTick – sweeper process (backoff.c) ## Resource Queue ## • Memory – Chaotic – 没有严格资源隔离 – 第三方库的malloc Resource Group • SQL语句并发控制 => 事务并发控制 ·基于cost的并发控制 • 基于优先级的CPU控制 => 精确CPU比例 • 内存控制 => 严格资源隔离 ## Running Example • CREATE RESOURCE Group rg WITH ( concurrency=1, cpu_rate_limit=.5,

Curve文件系统空间分配方案（基于块的方案，已实现） - 背景 - 本地文件系统空间分配相关特性 - 局部性 - 延迟分配/Allocate-on-flush - Inline file/data - 空间分配 - 整体设计 - 空间分配流程 - 特殊情况 - 空间回收 - 小文件处理 - 并发问题 - 文件系统扩容 - 接口设计 - RPC接口 - 空间分配器接口 ## 背景 根据CurveFS方案设计（总体设计，只实现了部分），文件系统基于当前的块进行实现，所以需要设计基于块的空间分配器，用于分配并存储文件数据。 ## 本地文件系统空间分配相关特性 局部性 尽量分配连续的磁盘空间，存储文件的数据。这一特性主要是针对HDD进行的优化，降低磁盘寻道时间。 延迟分配/Allocate-on-flush 在sync/flush之前，尽可能多的积累更多的文件数据块才进行空间分配，一方面可以提高局部性，另一方面可以降低磁盘碎片。 Inline file/data 几百字节的小文件不单独分配磁盘空间，直接把数据存放到文件的元数据中。 针对上述的本地文件系统特性，Curve文件系统分配需要着重考虑局部性。 虽然Curve是一个分布式文件系统，但是单个文件系统的容量可能会比较大，如果在空间分配时，不考虑局部性，inode中记录的e

[Image](/uploads/documents/e/2/7/5/e2756cfcf5797fc15b049edd8f1dd8d1/p5_1.jpg) ## 神龙 X-Dragon · 全称：弹性裸金属服务器（神龙） · 阿里造 “神龙” 实例 实例规格族 场景配置选型 可购买的地域  Platinum 8269CY|2.5 GHz/3.2 GHz|30 Gbps|600 万 PPS|否| |内存型弹性裸金属服务器ebmr6|ecs.ebmr6.26xlarge|104 GHz/3.2 GHz|30 Gbps|600 万 PPS|否| |通用网络增强型弹性裸金属服务器ebmg5s|ecs.ebmg5s.24xlarge|96 vCPU|384 GiB|Intel Xeon(Skylake) Platinum 8163|2.5 GHz|30 Gbps|450 万 PPS|是| |计算网络增强型弹性裸金属服务器ebmc5s|ecs.ebmc5s.24xlarge|96 vCPU|192

[Image](/uploads/documents/c/d/1/1/cd11ba0b707be61cb140b86841b53505/p1_1.jpg) BEIJING 2017 # 构建基于富媒体大数据的弹性深度学习计算平台 SPEAKER / 土土@七牛 AtLab ## 促进软件开发领域知识与创新的传播  ## AVA 弹性深度学习平 △ Iterative training Incremental training Semi-supervised Labeling Model comparison

Java 内存模型与分配机制 王晓东 wangxiaodongQouc.edu.cn 中国海洋大学 September 30, 2018 Java 内 学习目标 1. 理解 JVM 内存模型，掌握 JVM 内存构成 2. 理解 Java 程序的运行过程，学会通过调 HH 变化 3. 了解 Java 内存管理，认识垃圾回收 4. 建立编程时高效利用内存、避免内存溢上 D 的理 (Java Virtual Machine, JVM ) * Java 程序运行在 JVM 上，JVM 是程序与操作系统之间的桥梁。 * JVM 实现了 Java 的平台无关性。 * JVM 是内存分配的前提。 通过全限定名装载 大网 Java 内存模型 Java 程序内存运行分 Java 内存管理建议 JVM 内存模型 动画演示 JVM 时候，这种现象更为明显。 * 垃圾回收工作本身需要消耗资源，同样会产生内存浪费。 Java 内存模 Java 程 行分 Java 内存管理建议 Java 人为的内存管理是必要的 他 Java 需要内存管理 * 虽然 JVM 已经代替开发者完成了对内存的管理，但是硬件 本身的资源是有限的。 * 如果 Java 的开发人员不注意内存的使用依然会造成较高的

1.2. pod 配置示例 ..... 12 2.1.3. 其他资源 ..... 15 2.2. 查看 POD ..... 15 2.2.1. 关于 pod ..... 15 2.2.2. 查看项目中的 pod ..... 15 2.2.3. 查看 pod 用量统计 ..... 16 2.2.4. 查看资源日志 ..... 16 2.3. 为 POD 配置 OPENSHIFT pod 横向自动扩展状态条件 ..... 38 2.4.5.1. 使用 CLI 查看 pod 横向自动扩展状态条件 ..... 41 2.4.6. 其他资源 ..... 43 2.5. 使用垂直 POD 自动扩展自动调整 POD 资源级别 ..... 43 2.5.1. 关于 Vertical Pod Autoscaler Operator ..... 43 2.5.2. 安装 Vertical 使用配置映射在容器中填充环境变量 87 2.7.4.2. 使用配置映射为容器命令设置命令行参数 90 2.7.4.3. 使用配置映射将内容注入卷 92 2.8. 使用设备插件来利用 POD 访问外部资源 93 2.8.1. 了解设备插件 94 设备插件示例 94 2.8.1.1. 设备插件部署方法 95 2.8.2. 了解设备管理器 95 2.8.3. 启用设备管理器 96

云数据库实现方案 Greenplum on Kubernetes Greenplum Operator 总结 ## 云数据库背景 ## 云数据库背景 ● 资源变化 ☐ 本地资源 → 云 ☐ 静态资源 → 弹性需求 ## ● 数据变化 ☐ 内部数据 → 多数据源 ☐ 数据规模 → 不易预测 ☐ 数据格式 → 半结构化/无模式 ☐ 数据隔离 → 数据共享 # Gartner 云数据库增速巨大 DBasS的需求 ## ● 跨云的需求 ## 云数据库实现方案 ## 云数据库需求 - DBasS - 自动化运维 - 自动化调优 - 弹性资源管理 - 存储资源 - 计算资源 - 安全 - 用户数据 - 临时文件 - 网络传输 - 权限控制 - 跨云 - 公有云 - 私有云 ## 云数据库实现方案 \text{GREENPLUM DATABASE}^{\circ}+{}_{\text{docker}}=? $$ ## 容器化Greenplum 容器粒度 Segment主机 VS. Segment实例 ● 容器资源分配 CPU 内存 ☐ 磁盘 ● 容器间网络互联 ☐ 本机网络 ☐ 跨机网络 ● 容器化Greenplum部署策略 Master部署策略 o Primary Segment部署策略

2019年7月到双十一前完成全站 Kubernetes 落地，超过90%的资源通过 Kubernetes 分配，核心链路100%落地支撑大促。 ## 大促规模 ## 数万台 服务器和ECS 超一万 单集群规模 ## 90%+ 应用服务 ## 数十万 应用 Pods ## 统一资源调度架构 在线应用 数据库服务 OB serverless 平台 SOFAMesh 资源分时复用 计算型混部任务 业务 Kubernetes 分时复用 弹性容量 资源画像 规模化调度 高可用容灾 可视化服务 Cluster Control Panel 蚂蚁 k8s 核心 CRI CSI CNI Device Plugin runc nanovisor kata 日志服务 云盘 本地多盘 弹性网卡 网络安全组 GPU 安全可信 基础服务 神龙裸金属 VPC 云存储 云化资源 应用服务器 国产化服务器 非云资源 ## 二、 双十一 Kubernetes 实践 ## 资源分时调度 快速腾挪的问题 1. 实例上下线需要预热 2. 腾挪耗时不可控 3. 大规模腾挪的稳定性  ## 资源分时链路切换 分时调度控制器 资源及流量控制CRD