CurveFS S3数据整理(合并碎片、清理冗余)

• 语言: 中文（简体）
• 格式: .pdf
• 来源: github.com/opencurve

摘要

该文档描述了CurveFS对S3数据进行整理的方案，主要针对客户端对文件部分多次写入导致的Chunk版本增多问题。方案包括后台服务遍历inode，处理超过阈值的chunkinfo，计算变更并更新元数据，最后删除旧对象。过程中需处理数据残留、变更冲突等风险，并采取措施确保数据一致性和可靠性。

AI总结

以下是文档内容的中文总结：

---

# CurveFS S3数据整理(合并碎片、清理冗余)

## 背景
在单客户端和单MetaServer场景下，针对某个文件部分频繁写入后，同一Chunk会产生多个版本。客户端在读取时需要筛选和构建有效部分，导致读请求性能下降，且旧数据堆积。因此需要在合适时机对元数据和数据进行合并整理。

## 方案
基于以下三类数据结构和两层索引：
1. **s3ChunkInfoList[index] = [s3ChunkInfo(s)]**
- **s3ChunkInfo**：包含`chunkid`、`version`（写入时为0，合并后递增）、`offset`和`len`。
2. **s3 Object命名规则**：`chunkid_version_index`，`index`为该Chunk在Chunk内的位置。

## 执行步骤
1. **后台服务**：数据整理作为后台服务（线程池）运行于MetaServer，遍历MetaServer中的Inode，尝试进行数据整理。
2. **任务队列**：入队InodeKey，若已有任务则直接返回，不重复入队。
3. **筛选条件**：
- 获取不到Inode信息时退出；
- 非S3类型的Inode退出；
- 对每个Inode的每个Index内的ChunkInfo按`chunkid`升序排序；
- ChunkInfo数量超过20时进行处理。

## 变更过程
1. **计算变更**：
- 记录Chunk的最大`chunkid`；
- 读取Chunk的所有有效部分，`compaction+1`，新ChunkID为最大ChunkID，生成新S3对象。
2. **应用变更**：
- 新增S3对象不覆盖旧对象；
- 加锁，原子更新Inode的`S3ChunkInfoList`，失败时回退；
- 等待N秒，确保MDS通知客户端缓存失效；
- 删除旧对象。

## 问题与风险
1. **变更失败**：在执行过程中若挂掉，可能导致S3数据残留。
2. **元数据冲突**：多个变更同时进行时，元数据覆盖可能导致部分变更丢失。

## 冲突处理
1. **读操作**：若读失败，客户端可重试并重新拉取元数据。
2. **写操作**：对ChunkInfoList的新增不影响整理变更。
3. **删除操作**：标记删除的Inode不进行整理，处理边界情况。
4. **截断操作**：修改元数据长度，触发合并处理。

## 总结
数据整理旨在解决Chunk版本冗余和读性能下降问题。方案以最大ChunkID为基准，增量更新元数据，后台异步删除旧数据。方案尽力而为，但需注意变更失败和元数据冲突的风险。后续可优化冲突处理逻辑并开发数据清理工具。