Curve文件系统空间分配方案（基于块的方案，已实现） - 背景 - 本地文件系统空间分配相关特性 - 局部性 - 延迟分配/Allocate-on-flush - Inline file/data - 空间分配 - 整体设计 - 空间分配流程 - 特殊情况 - 空间回收 - 小文件处理 - 并发问题 - 文件系统扩容 - 接口设计 - RPC接口 - 空间分配器接口 ## 背景 根据CurveFS方案设计（总体设计，只实现了部分），文件系统基于当前的块进行实现，所以需要设计基于块的空间分配器，用于分配并存储文件数据。 ## 本地文件系统空间分配相关特性 局部性 尽量分配连续的磁盘空间，存储文件的数据。这一特性主要是针对HDD进行的优化，降低磁盘寻道时间。 延迟分配/Allocate-on-flush 在sync/flush之前，尽可能多的积累更多的文件数据块才进行空间分配，一方面可以提高局部性，另一方面可以降低磁盘碎片。 Inline file/data 几百字节的小文件不单独分配磁盘空间，直接把数据存放到文件的元数据中。 针对上述的本地文件系统特性，Curve文件系统分配需要着重考虑局部性。 虽然Curve是一个分布式文件系统，但是单个文件系统的容量可能会比较大，如果在空间分配时，不考虑局部性，inode中记录的e

Java 内存模型与分配机制 王晓东 wangxiaodongQouc.edu.cn 中国海洋大学 September 30, 2018 Java 内 学习目标 1. 理解 JVM 内存模型，掌握 JVM 内存构成 2. 理解 Java 程序的运行过程，学会通过调 HH 变化 3. 了解 Java 内存管理，认识垃圾回收 4. 建立编程时高效利用内存、避免内存溢上 D 的理 (Java Virtual Machine, JVM ) * Java 程序运行在 JVM 上，JVM 是程序与操作系统之间的桥梁。 * JVM 实现了 Java 的平台无关性。 * JVM 是内存分配的前提。 通过全限定名装载 大网 Java 内存模型 Java 程序内存运行分 Java 内存管理建议 JVM 内存模型 动画演示 JVM

抛砖引玉，只是结合我们团队业务场景来分享下我们选择数据库的过程。 - 不是数据库不好用， • 而是我们不会用， • 是我们用的姿势不对! 主要业务场景 • IM工具+SCRM系统（高并发、低延迟、稳定） • 大量客户需要私有化云服务器部署（云更新） • 需求变更频繁，不适合关系型数据库 ## 目前服务器架构 ![Image](/uploads/documents/a/7/3/6/a7

## GC带来的问题 -GC是个好东西，但也有问题 -难以避免的延迟(几十到几百ms) ·经验公式：10万对象1ms扫描时间 -1个tcp连接，约10个对象=>1万连接，1ms gc延迟 • GO-BFE的实时需求 - 请求的处理延迟 平均1ms以内，最大10ms · 实测 -100万连接，400ms gc延迟 ## GC优化思路 • Go的gc算法（go1.3） –Mark ## GC优化－补充分析 ## • HTTP场景 -短连接 - 长连接 · 平均连接上的请求是3个 • 90%(20s以内)、98%(50s之内) ## -大文件请求 • 对gc造成的延迟(几十ms)不敏感 Past: { BucketSize: 1, BucketNum: 10, Count: 139660, Sum: 44606461, Ave: 319, - Counters: [Image](/uploads/documents/b/6/7/f/b67feeef329677168cf0f86a902dbe8e/p33_1.jpg) ## 总结 • Go可以用于高并发、低延迟的程序开发 • Go极大的提升了开发效率 THANKS Bai百度

多种上下游适配 - 高吞吐/低延迟问题探究 - 高可用与水平扩展 - 自动化运维 - Go的应用 ## 系统设计分析与架构 ## 构建系统的挑战 每天数千亿数据点 任务切分粒度 每天百TB数据量 1 高吞吐量 4 水平扩展 机器扩容 高峰期每分钟近200GB数据量 master节点failover 5 高可用 分钟级数据延迟 ② 低延迟 server节点无状态 挑战 [Image](/uploads/documents/7/1/6/b/716b45ba07ae342152eb1f7952269e99/p10_3.jpg) Sinker 云存储导出模型 ## 高吞吐/低延迟问题探究 ## 简单·可信赖 ## 困难 高吞吐 1、资源利用率低 2、上下游吞吐能力不匹配  ## 简单·可信赖 ## 线上系统现状 每日处理超过千亿数据点 每日处理百TB级别的数据 线上导出延迟在1分钟以内 较少的人工介入 秒级扩容 实时的可视化监控系统 易用的报警系统 自动生成线上日报 ## Go的应用 ## 我们用Golang做了些什么 - 流式计算、离线计算、日

高频行情信息包括实时报价、逐笔成交、分时成交、周期K线、资金流向等信息数据，券商通过专线线路从交易所获取原始数据后通过计算生成。 ’ alt=‘OCR图片’/> 证券行情系统的特点 超低延迟：延迟过大会误导投资决策，导致客户流失 超高并发：牛市时全民炒股刷行情数据 超高可靠性：数据出错可导致真金白银的损失 超严格监管：全面监管从严监管的时代受到各种合规约束 2015年5月 NumGC PauseNs 无压缩？吞吐量不足？无停顿处理不及时？并发执行不可预测？ GopherChina 2017 2.3 避免Goroutine的频繁创建销毁 并发量小于1000时：每个请求分配一个Goroutine，并发模型简单易于开发，类似于Apache并发模型 并发量大于1000时：频繁创建的Goroutine在销毁时产生大量内存垃圾，GC过程拖慢系统响应速度，宜采用Nginx并发模型 Go编译器的做法：不逃逸的对象放栈上，可能逃逸的放堆上 尽量使用栈对象，特别是在快速调用和返回的函数中，栈对象的分配速度比堆对象快一倍 长时间不返回的函数中，过多的栈对象可能增加Goroutine调度开销 go tool compile -m 辅助分析对象的分配情况 3 面向并发的数据结构 多线程时代并发访问临界区资源时往往要加锁，锁的存在使得并行任务互相干扰影响性能

了解过量使用 149 3.5.2. 了解节点过量使用 149 3.6. 使用节点污点控制 POD 放置 151 3.6.1. 了解污点和容限 151 3.6.1.1. 了解如何使用容限秒数来延迟 pod 驱除 155 3.6.1.2. 了解如何使用多个污点 155 3.6.1.3. 了解 pod 调度和节点状况（根据状况保留节点） 157 3.6.1.4. 了解根据状况驱除 pod（基于垃圾的驱除） PLATFORM 集群中的节点分配资源 271 5.8.1. 了解如何为节点分配资源 271 5.8.1.1. OpenShift Container Platform 如何计算分配的资源 272 5.8.1.2. 节点如何强制实施资源限制 272 5.8.1.3. 了解驱除阈值 273 5.8.1.4. 调度程序如何确定资源可用性 273 5.8.2. 为节点配置分配的资源 274 5.9. 为集群中的节点分配特定 CPU 276 5.9.1. 为节点保留 CPU 276 5.10. 机器配置守护进程指标 277 5.10.1. 机器配置守护进程指标 278 第6章 操作容器 281 6.1. 了解容器 281 关于容器和 RHEL 内核内存 281 6.2. 在部署 POD 前使用初始容器来执行任务 281 6.2.1. 了解初始容器 281

Apache Spark ○ CockroachDB ○ Apache HAWQ ## 云数据库存储方案 ● 块存储 ☐ 文件系统接口 ● 对象存储 ☐ 成本低 ☐ 扩展性强 ☐ 访问延迟高 ## Greenplum on Kubernetes ## Greenplum 架构 ![Image](/uploads/documents/2/6/a/1/26a11ccc3381a9b86 \text{GREENPLUM DATABASE}^{\circ}+{}_{\text{docker}}=? $$ ## 容器化Greenplum 容器粒度 Segment主机 VS. Segment实例 ● 容器资源分配 CPU 内存 ☐ 磁盘 ● 容器间网络互联 ☐ 本机网络 ☐ 跨机网络 ● 容器化Greenplum部署策略 Master部署策略 o Primary Segment部署策略 ☐ 升级扩容 ● 容器化Greenplum存储管理 ☐ 容器本地存储易失性 ## 容器化Greenplum - 容器粒度 - Segment主机 VS. Segment实例 - 容器资源分配 - CPU - 内存 - 磁盘 - 容器间网络互联 - 本机网络 - 跨机网络 容器化分布式应用程序公共问题 - 容器调度 -