Curve文件系统空间分配方案（基于块的方案，已实现） - 背景 - 本地文件系统空间分配相关特性 - 局部性 - 延迟分配/Allocate-on-flush - Inline file/data - 空间分配 - 整体设计 - 空间分配流程 - 特殊情况 - 空间回收 - 小文件处理 - 并发问题 - 文件系统扩容 - 接口设计 - RPC接口 - 空间分配器接口 ## 背景 根据CurveFS方案设计（总体设计，只实现了部分），文件系统基于当前的块进行实现，所以需要设计基于块的空间分配器，用于分配并存储文件数据。 ## 本地文件系统空间分配相关特性 局部性 尽量分配连续的磁盘空间，存储文件的数据。这一特性主要是针对HDD进行的优化，降低磁盘寻道时间。 延迟分配/Allocate-on-flush 在sync/flush之前，尽可能多的积累更多的文件数据块才进行空间分配，一方面可以提高局部性，另一方面可以降低磁盘碎片。 Inline file/data 几百字节的小文件不单独分配磁盘空间，直接把数据存放到文件的元数据中。 针对上述的本地文件系统特性，Curve文件系统分配需要着重考虑局部性。 虽然Curve是一个分布式文件系统，但是单个文件系统的容量可能会比较大，如果在空间分配时，不考虑局部性，inode中记录的e

Java 内存模型与分配机制 王晓东 wangxiaodongQouc.edu.cn 中国海洋大学 September 30, 2018 Java 内 学习目标 1. 理解 JVM 内存模型，掌握 JVM 内存构成 2. 理解 Java 程序的运行过程，学会通过调 HH 变化 3. 了解 Java 内存管理，认识垃圾回收 4. 建立编程时高效利用内存、避免内存溢上 D 的理 (Java Virtual Machine, JVM ) * Java 程序运行在 JVM 上，JVM 是程序与操作系统之间的桥梁。 * JVM 实现了 Java 的平台无关性。 * JVM 是内存分配的前提。 通过全限定名装载 大网 Java 内存模型 Java 程序内存运行分 Java 内存管理建议 JVM 内存模型 动画演示 JVM

抛砖引玉，只是结合我们团队业务场景来分享下我们选择数据库的过程。 - 不是数据库不好用， • 而是我们不会用， • 是我们用的姿势不对! 主要业务场景 • IM工具+SCRM系统（高并发、低延迟、稳定） • 大量客户需要私有化云服务器部署（云更新） • 需求变更频繁，不适合关系型数据库 ## 目前服务器架构 ![Image](/uploads/documents/a/7/3/6/a7

## GC带来的问题 -GC是个好东西，但也有问题 -难以避免的延迟(几十到几百ms) ·经验公式：10万对象1ms扫描时间 -1个tcp连接，约10个对象=>1万连接，1ms gc延迟 • GO-BFE的实时需求 - 请求的处理延迟 平均1ms以内，最大10ms · 实测 -100万连接，400ms gc延迟 ## GC优化思路 • Go的gc算法（go1.3） –Mark ## GC优化－补充分析 ## • HTTP场景 -短连接 - 长连接 · 平均连接上的请求是3个 • 90%(20s以内)、98%(50s之内) ## -大文件请求 • 对gc造成的延迟(几十ms)不敏感 Past: { BucketSize: 1, BucketNum: 10, Count: 139660, Sum: 44606461, Ave: 319, - Counters: [Image](/uploads/documents/b/6/7/f/b67feeef329677168cf0f86a902dbe8e/p33_1.jpg) ## 总结 • Go可以用于高并发、低延迟的程序开发 • Go极大的提升了开发效率 THANKS Bai百度

多种上下游适配 - 高吞吐/低延迟问题探究 - 高可用与水平扩展 - 自动化运维 - Go的应用 ## 系统设计分析与架构 ## 构建系统的挑战 每天数千亿数据点 任务切分粒度 每天百TB数据量 1 高吞吐量 4 水平扩展 机器扩容 高峰期每分钟近200GB数据量 master节点failover 5 高可用 分钟级数据延迟 ② 低延迟 server节点无状态 挑战 [Image](/uploads/documents/7/1/6/b/716b45ba07ae342152eb1f7952269e99/p10_3.jpg) Sinker 云存储导出模型 ## 高吞吐/低延迟问题探究 ## 简单·可信赖 ## 困难 高吞吐 1、资源利用率低 2、上下游吞吐能力不匹配  ## 简单·可信赖 ## 线上系统现状 每日处理超过千亿数据点 每日处理百TB级别的数据 线上导出延迟在1分钟以内 较少的人工介入 秒级扩容 实时的可视化监控系统 易用的报警系统 自动生成线上日报 ## Go的应用 ## 我们用Golang做了些什么 - 流式计算、离线计算、日

高频行情信息包括实时报价、逐笔成交、分时成交、周期K线、资金流向等信息数据，券商通过专线线路从交易所获取原始数据后通过计算生成。 ’ alt=‘OCR图片’/> 证券行情系统的特点 超低延迟：延迟过大会误导投资决策，导致客户流失 超高并发：牛市时全民炒股刷行情数据 超高可靠性：数据出错可导致真金白银的损失 超严格监管：全面监管从严监管的时代受到各种合规约束 2015年5月 NumGC PauseNs 无压缩？吞吐量不足？无停顿处理不及时？并发执行不可预测？ GopherChina 2017 2.3 避免Goroutine的频繁创建销毁 并发量小于1000时：每个请求分配一个Goroutine，并发模型简单易于开发，类似于Apache并发模型 并发量大于1000时：频繁创建的Goroutine在销毁时产生大量内存垃圾，GC过程拖慢系统响应速度，宜采用Nginx并发模型 Go编译器的做法：不逃逸的对象放栈上，可能逃逸的放堆上 尽量使用栈对象，特别是在快速调用和返回的函数中，栈对象的分配速度比堆对象快一倍 长时间不返回的函数中，过多的栈对象可能增加Goroutine调度开销 go tool compile -m 辅助分析对象的分配情况 3 面向并发的数据结构 多线程时代并发访问临界区资源时往往要加锁，锁的存在使得并行任务互相干扰影响性能

Apache Spark ○ CockroachDB ○ Apache HAWQ ## 云数据库存储方案 ● 块存储 ☐ 文件系统接口 ● 对象存储 ☐ 成本低 ☐ 扩展性强 ☐ 访问延迟高 ## Greenplum on Kubernetes ## Greenplum 架构 ![Image](/uploads/documents/2/6/a/1/26a11ccc3381a9b86 \text{GREENPLUM DATABASE}^{\circ}+{}_{\text{docker}}=? $$ ## 容器化Greenplum 容器粒度 Segment主机 VS. Segment实例 ● 容器资源分配 CPU 内存 ☐ 磁盘 ● 容器间网络互联 ☐ 本机网络 ☐ 跨机网络 ● 容器化Greenplum部署策略 Master部署策略 o Primary Segment部署策略 ☐ 升级扩容 ● 容器化Greenplum存储管理 ☐ 容器本地存储易失性 ## 容器化Greenplum - 容器粒度 - Segment主机 VS. Segment实例 - 容器资源分配 - CPU - 内存 - 磁盘 - 容器间网络互联 - 本机网络 - 跨机网络 容器化分布式应用程序公共问题 - 容器调度 -