Greenplum资源管理器2017 年象行中国(杭州 站)第一期 Greenplum资源管理器 姚珂男/Pivotal kyao@pivotal.io 2017 年象行中国(杭州 站)第一期 Agenda • Greenplum数据库 • Resource Queue • Resource Group 2017 年象行中国(杭州 站)第一期 Greenplum数据库 • 基于PostgreSQL • 分布式 corruption => PANIC 2017 年象行中国(杭州 站)第一期 Resource Queue • Cost is tricky – 没有明确的定义 – 不同优化器不一致 – 优化器不能被纳入资源管理器 2017 年象行中国(杭州 站)第一期 Resource Queue • Priority is rough – 不能精确控制CPU – CHECK_FOR_INTERRUPTS – Resource Queue • Memory – Chaotic – 没有严格资源隔离 – 第三方库的malloc 2017 年象行中国(杭州 站)第一期 Resource Group • SQL语句并发控制 => 事务并发控制 • 基于cost的并发控制 • 基于优先级的CPU控制 => 精确CPU比例 • 内存控制 => 严格资源隔离 2017 年象行中国(杭州 站)第一期 Running Example0 码力 | 21 页 | 756.29 KB | 1 年前3
Curve文件系统空间分配方案of 11 Curve文件系统空间分配方案(基于块的方案,已实现)© XXX Page 2 of 11 背景 本地文件系统空间分配相关特性 局部性 延迟分配/Allocate-on-flush Inline file/data 空间分配 整体设计 空间分配流程 特殊情况 空间回收 小文件处理 并发问题 文件系统扩容 接口设计 RPC接口 空间分配器接口 背景 根据 ,文件系统基 ,文件系统基于当前的块进行实现,所以需要设计基于块的空间分配器,用于分配并存储文件数据。 CurveFS方案设计(总体设计,只实现了部分) 本地文件系统空间分配相关特性 局部性 尽量分配连续的磁盘空间,存储文件的数据。这一特性主要是针对HDD进行的优化,降低磁盘寻道时间。 延迟分配/Allocate-on-flush 在sync/flush之前,尽可能多的积累更多的文件数据块才进行空间分配,一方面可以提高局部性,另一方面可以降低磁盘碎片。 几百字节的小文件不单独分配磁盘空间,直接把数据存放到文件的元数据中。 针对上述的本地文件系统特性,Curve文件系统分配需要着重考虑 。 局部性 虽然Curve是一个分布式文件系统,但是单个文件系统的容量可能会比较大,如果在空间分配时,不考虑局部性,inode中记录的extent数量很多,导致文件系统元数据量很大。© XXX Page 3 of 11 假如文件系统大小为1PiB,空间分配粒度为1M0 码力 | 11 页 | 159.17 KB | 6 月前3
Java 应用与开发 - Java 内存模型与分配机制大纲 Java 内存模型 Java 程序内存运行分析 Java 内存管理建议 Java 应用与开发 Java 内存模型与分配机制 王晓东 wangxiaodong@ouc.edu.cn 中国海洋大学 September 30, 2018 大纲 Java 内存模型 Java 程序内存运行分析 Java 内存管理建议 学习目标 1. 理解 JVM 内存模型,掌握 JVM 内存构成 2 虚拟机(Java Virtual Machine, JVM) ▶ Java 程序运行在 JVM 上,JVM 是程序与操作系统之间的桥梁。 ▶ JVM 实现了 Java 的平台无关性。 ▶ JVM 是内存分配的前提。 类装载子系统 Class文件 Class文件 Class文件 方法区 Java堆 Java栈 程序计数器 本地方法栈 执行引擎 本地接口 通过全限定名装载 操作系统 操作系统本地库 保存加载方法时的帧。(Stack) 堆 用来存放动态产生的数据,如 new 出来的对象和数组。 1。(Heap) 常量池 JVM 为每个已加载的类型维护一个常量池,常量池就是 这个类型用到的常量的一个有序集合。包括直接常量 (基本类型、String)和对其他类型、方法、字段的符号 引用。池中的数据和数组一样通过索引访问,常量池在 Java 程序的动态链接中起了核心作用。(Perm) 代码段 存放从硬盘上读取的源程序代码。(Perm)0 码力 | 44 页 | 818.30 KB | 1 年前3
高效智能运维[云+社区技术沙龙第29期] - 腾讯云提高K8S集群资源利用率实践云+社区技术沙龙 腾讯云提高K8S集群资源利用率实践 庄鹏锐 腾讯云高级工程师 资源利用率分析 Node节点资源碎片 Pod Resource(requests)配置不合理 WorkLoad/HPA 副本数设置不合理 业务空闲时间 解决方案 Pod 压缩 Node 超卖 HPA VPA 动态 调度 碎片 处理 Pod 资源压缩 • MutatingAdmission limits 两种资源计算方式 • CronHPA • HPA对象Enable 和 Disable • 动态调整 minRepliacs VPAPlus • 动态调整Container Cgroup • requets 和 limit 比例设置 • Resource Range设置 • CheckPoint对象timeout时间 • Pod对象更新时间 ` • 资源合法性校验 THANKS0 码力 | 10 页 | 1.39 MB | 1 年前3
OpenShift Container Platform 4.6 网络集群网络供应商 配置 OVN-Kubernetes CNI 集群网络供应商 kubeProxyConfig 对象配置 4.5.2. Cluster Network Operator 配置示例 4.6. 其他资源 第 第 5 章 章 OPENSHIFT CONTAINER PLATFORM 中的 中的 DNS OPERATOR 5.1. DNS OPERATOR 5.2. 查看默认 DNS 5.3. 使用 10. 使用 X-Forwarded 标头 使用案例示例 6.8.11. 启用 HTTP/2 入口连接 6.9. 其他资源 第 第 7 章 章 配置 配置节 节点端口服 点端口服务 务范 范围 围 7.1. 先决条件 7.2. 扩展节点端口范围 7.3. 其他资源 第 第 8 章 章 在裸机集群中使用流控制 在裸机集群中使用流控制传输协议 传输协议 (SCTP) 8.1. 支持 OPENSHIFT 4. 其他资源 10.2. 创建网络策略 10.2.1. 创建网络策略 10.2.2. 示例 NetworkPolicy 对象 10.3. 查看网络策略 10.3.1. 查看网络策略 10.3.2. 示例 NetworkPolicy 对象 10.4. 编辑网络策略 10.4.1. 编辑网络策略 10.4.2. 示例 NetworkPolicy 对象 10.4.3. 其他资源 100 码力 | 256 页 | 2.78 MB | 1 年前3
OpenShift Container Platform 4.9 网络CLUSTER NETWORK OPERATOR 状态 4.4. 查看 CLUSTER NETWORK OPERATOR 日志 4.5. CLUSTER NETWORK OPERATOR 配置 4.6. 其他资源 第 第 5 章 章 OPENSHIFT CONTAINER PLATFORM 中的 中的 DNS OPERATOR 5.1. DNS OPERATOR 5.2. 更改 DNS OPERATOR 9. 其他资源 第 第 7 章 章 验证 验证到端点的 到端点的连 连接 接 7.1. 执行连接健康检查 7.2. 连接健康检查实现 7.3. PODNETWORKCONNECTIVITYCHECK 对象字段 7.4. 验证端点的网络连接 第 第 8 章 章 配置 配置节 节点端口服 点端口服务 务范 范围 围 8.1. 先决条件 8.2. 扩展节点端口范围 8.3. 其他资源 第 第 关于虚拟路由和转发 13.4. 配置多网络策略 13.5. 将 POD 附加到额外网络 13.6. 从额外网络中删除 POD 13.7. 编辑额外网络 13.8. 删除额外网络 13.9. 为 VRF 分配从属网络 第 第 14 章 章 硬件网 硬件网络 络 14.1. 关于单根 I/O 虚拟化(SR-IOV)硬件网络 14.2. 安装 SR-IOV NETWORK OPERATOR 14.3.0 码力 | 388 页 | 4.04 MB | 1 年前3
2022年美团技术年货 合辑879 工程效能 CI/CD 之流水线引擎的建设实践 912 美团外卖搜索基于 Elasticsearch 的优化实践 933 美团图灵机器学习平台性能起飞的秘密(一) 953 提升资源利用率与保障服务质量,鱼与熊掌不可兼得? 971 标准化思想及组装式架构在后端 BFF 中的实践 992 外卖广告大规模深度学习模型工程实践 | 美团外卖广告工程实践专题连载 1013 数据库全量 Decoupled Head,在维持精度的同时, 进一步降低了一般解耦头带来的额外延时开销。 ● 在训练策略上,我们采用 Anchor-free 无锚范式,同时辅以 SimOTA[2] 标签 分配策略以及 SIoU[9] 边界框回归损失来进一步提高检测精度。 2.1 Hardware-friendly 的骨干网络设计 YOLOv5/YOLOX 使用的 Backbone 和 Neck 都基于 Decoupled Head 结构图 2.3 更有效的训练策略 为了进一步提升检测精度,我们吸收借鉴了学术界和业界其他检测框架的先进研究进 展:Anchor-free 无锚范式 、SimOTA 标签分配策略以及 SIoU 边界框回归损失。 Anchor-free 无锚范式 YOLOv6 采用了更简洁的 Anchor-free 检测方法。由于 Anchor-based 检测器需 要在训练之前进行聚类分析以确定最佳0 码力 | 1356 页 | 45.90 MB | 1 年前3
OpenShift Container Platform 4.14 存储other trademarks are the property of their respective owners. 摘要 摘要 本文档提供了使用不同存储后端配置持久性卷以及通过 pod 管理动态分配存储的信息。 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1.1. OPENSHIFT CONTAINER PLATFORM 存储的常见术语表 1.2. 存储类型 1.3. CONTAINER STORAGE INTERFACE (CSI) 1.4. 动态置备 第 第 2 章 章 了解 了解临时 临时存 存储 储 2.1. 概述 2.2. 临时存储的类型 2.3. 临时存储管理 2.4. 监控临时存储 第 第 3 章 章 了解持久性存 了解持久性存储 使用本地存储的持久性存储 第 第 5 章 章 使用 使用 CONTAINER STORAGE INTERFACE (CSI) 5.1. 配置 CSI 卷 5.2. CSI INLINE 临时卷 5.3. 共享资源 CSI DRIVER OPERATOR 5.4. CSI 卷快照 5.5. CSI 卷克隆 5.6. 管理默认存储类 5.7. CSI 自动迁移 5.8. 在非正常节点关闭后分离 CSI 卷0 码力 | 215 页 | 2.56 MB | 1 年前3
VMware Infrastructure 简介简介 9 VI 数据中心的物理拓扑 12 计算服务器 12 存储网络和阵列 13 IP 网络 13 VirtualCenter Server 13 桌面客户端 13 虚拟数据中心架构 14 主机、群集和资源池 15 VMware Infrastructure 分布式服务 16 网络架构 19 存储架构 21 VMware Consolidated Backup 23 VirtualCenter Server Infrastructure 文档由 VMware VirtualCenter 和 ESX Server 文档集组合而成。 图中使用的缩写 本手册中的图片使用表 1 中列出的缩写形式。 技术支持和教育资源 以下各节介绍提供的技术支持资源。可以通过下列网址访问本手册及其他书籍的最新版 本: http://www.vmware.com/support/pubs 在线支持和电话支持 通过在线支持可提交技术支持请求、 是一组完整的基础架构虚拟套件,此款集成产品可提供全面的综合 虚拟化、管理、资源优化、应用程序可用性和操作自动化功能。VMware Infrastructure 虚 拟化并汇总多个系统间的基础物理硬件资源,同时为虚拟环境中的数据中心提供大量虚 拟资源。 此外, VMware Infrastructure 还提供一组分布式服务,通过该服务,可以实现策略驱 动的精细资源分配、高可用性和对整个虚拟数据中心的整合备份。使用这些分布式服务,0 码力 | 42 页 | 2.41 MB | 1 年前3
Object Pascal 参考手册(Ver 0.1) 如果从命令行编译一个程序,你可以把所有源代码放在单元文件(.pas)中,但如果用 IDE 创建程 序,则必须有一个工程文件(.dpr)。 包源文件类似于工程文件,但它们用来创建称为包的特殊的动态链接库(DLL)。 关于包的更多信息,请参考动态链接库和包。 Other files used to build applications(创建程序所需的其它文件) 除了源代码文件,Borland 工具还需要几种非 下文件: • 窗体文件,扩展名为 .dfm(Delphi)或 .xfm(Kylix) • 资源文件,扩展名为 .res (已经编译的资源文件) • 工程选项文件,扩展名为 .dof(Delphi)或 .kof(Kylix) 窗体文件或者是一个文本文件,或者是一个编译的资源文件,资源文件能包含位图、字符串等等。 每个窗体文件表示一个窗体,通常对应于程序中的一个窗口或对话框。IDE 允许以文本方式察看和编辑 它,更常用的方式是使用 Borland 提供的可视化设计工具。每个工程至少有一个窗体,每个窗体有一个 关联的单元文件(.pas),默认情况下,单元的文件名和窗体文件名相同。 除了窗体文件,每个工程使用一个资源文件(.res)保存位图作为程序的图标。默认情况下,这个 文件和工程文件(.dpr)同名。要改变程序的图标,可使用 Project Options 对话框。 工程选项文件(.dof 或 .kof0 码力 | 168 页 | 868.25 KB | 1 年前3
共 994 条
- 1
- 2
- 3
- 4
- 5
- 6
- 100













