on the read path, we'll try to read the BucketCache firstly, if the Cache misses, go to the HFile and read the corresponding block. The workflow: reading block from cache OR sending cells to client there should be rarely heap allocation. However, we found that the process of reading the Block from HFile is still copied to the heap firstly, the heap block won't free unless the WriterThread of BucketCache raising Young GC pressure. ### 2. Basic Idea Idea to eliminate the Young GC is: read the block of HFile to offheap directly. We didn't accomplish this before because HDFS does not support the ByteBuffer

memory. Memstore Memstore • 写操作日志: WAL WAL HFile HFile HFile HFile • 数据文件: HFile Write ahead log on disk- Used for recovery HDFS Data Node Hfile=sorted KeyValues on disk 深入RegionServer内部. 有两个Cache和两种文件 ## 系统组成 RegionServer 写操作 - 先写WAL做故障恢复用 • 写到Memstore中 - 足够大时flush到HFile • Compaction (Minor/Major)  HDFS HDFS Data Node ## 系统组成 RegionServer读操作 - 先找BlockCache • 再找Memstore, 写入还没flush • 根据index去HFile里找 - HBase如何在hdfs这种appendonly文件系统上实现, 修改/删除操作的 Region Server Region BlockCache ![Image](/uploads/

[Image](/uploads/documents/a/2/0/d/a20da1de29183af9880028cb6825f34f/p33_1.jpg) ## 性能优化目标 • 读 vs. 写? – 读需要合并HFile，因此文件越少越好 – 写需要减少Compaction操作，因此文件越多越好 - 优化读或者写之一，而不是全部 • 顺序 vs. 随机? - 参考值——每个RegionServer吞吐率>20MB/s 的服务量）而定 • 过多Region的症状： – CPU线程切换频繁 – 内存使用过大，造成GC频繁，服务Timeout – 每个Region的Memstore太小，磁盘flush频繁，HFile文件过多小文件 ## Major Compaction • HBase根据时间来计划执行Major Compaction – hbase.hregion.majorcompaction = 604800000 上万倍，一般问题在服务器端： – 写入Memstore慢 • HLog写入超时——考虑HDFS及硬盘异常 • GC——考虑优化内存使用（GC参数及算法调优有限） - Flush慢 • HFile写入超时——考虑HDFS及硬盘异常 • Compaction被触发且运行时间长——优化高峰期Compaction策略 ## 读性能优化 - 使用Redis、Memcache等缓存 • 使用Read

2、小范围查询延迟低。 3、集群可拓展 缺点 1、行存索引不适合分析任务。 2、HBase集群维护成本较高。 3、通过RegionServer定位HFile，Server的优化和缓存完全用不上。 4、数据格式绑定HFile，不方便拓展到Parquet、Avro、Orc等。 FLINK FORWARD #ASIA 2020 ## Apache Kudu 维护 CDC 数据集 ##

srcFiles[FILEMAX]; WIN32_FIND_DATA fd; // prepare srcFiles[]... bRet = TRUE; iSrcFiles = 0; hFile = FindFirstFile(SrcDir, &fd); while (hFile != INVALID_HANDLE_VALUE && bRet) { if (fd.dwFileAttributes == FILE_ATTRIBUTE_ARCHIVE) srcFiles[iSrcFiles].fd = fd; srcFiles[iSrcFiles].bIsNew = FALSE; iSrcFiles++; } 34 bRet = FindNextFile(hFile, &fd); } 再把DstDir 中的所有文件（不含子目录文件）搜寻一遍，储存在一个destFiles[ ] 数组 中，每个数组元素是一个我自定的DESTFILE 数据结构： typedef struct DESTFILE destFiles[FILEMAX]; WIN32_FIND_DATA fd; bRet = TRUE; iDestFiles = 0; hFile = FindFirstFile(DstDir, &fd); while (hFile != INVALID_HANDLE_VALUE && bRet) { if (fd.dwFileAttributes == FILE_ATTRIBUTE_ARCHIVE)

Cases  Scan the HFile with so many deltes scan. set Fi I ter ( new Si ngI eCol umVal ueFi I ter ( . . . ) ) ## Server Si

for each JVM option changed • HBase configuration ☐ 0.3 <= global memstore limit <= 0.45 ☐ hfile.block.cache.size = 0.1 ☐ hbase.hregion.memstore.flush.size = 256 MB ☐ hbase.bucketcache.ioengine

u.value32 = pMap->root; data.handle.type = VMMDevHGCMParmType_64bit; data.handle.u.value64 = hFile; data.offset.type = VMMDevHGCMParmType_64bit; data.offset.u.value64 = offset; data.cb.type = VM

root.u.value32 = pMap->root; data.handle.type = VMMDevHGCMParmType_64bit; data.handle.u.value64 = hFile; data.offset.type = VMMDevHGCMParmType_64bit; data.offset.u.value64 = offset; data.cb.type = VMMD

u.value32 = pMap->root; data.handle.type = VMMDevHGCMParmType_64bit; data.handle.u.value64 = hFile; data.offset.type = VMMDevHGCMParmType_64bit; data.offset.u.value64 = offset; data.cb.type = VM