Curve 分布式存储设计 程义 — Curve Maintainer XAgenda 第二 第三 第四 第一 Curve的由来 Curve的设计目标 Curve块存储 和 Curve文件存储 Curve社区Curve的由来 1. 代码复杂/代码量大 2. 运维难度高 3. 无法满足高的性能需求Curve的设计目标 1. Curve云原生软件定义存储 2. Curve块存储 Curve块存储 3. Curve文件存储 4. 高性能，易运维，云原生Curve块存储 1. 高性能分布式共享数据库场景 2. Curve块存储提供底层分布式共享存储 3. Polardb for PostgreSQL提供上层高性能数 据库服务 4. 性能测试 1. benchmarkSQL 每分钟事务数提升39% 2. pgbench 延迟降低21% TPS提升26% 研究现状Curve块存储 研究现状Curve块存储 1. 分布式块存储服务 2. KVM块存储服务 3. iSCSI协议 4. 容器云块存储(CSI) 应用场景Curve块存储 1. 高可用性/高可靠性 (易运维) 2. RAFT一致性协议 3. CopySet分配算法 4. 拓扑结构 5. 高性能 6. chunkfilepool (降低写放大) 7. data stripe (增大并发) 8. zerocopy

分布式存储系统，支持 块存储 和 文件存储 2018~2021 Curve块存储 2021~2022 Curve文件存储 • 基于Openstack构建云计算平台 • 底层存储使用Ceph块存储 • 稳定性挑战 • 算力平台kubernetes的迅速发展 • AI/大数据业务的快速增长 • 存储使用Ceph文件存储/HDFS • 成本/性能挑战 Curve块存储和文件存储均采用raft协议整体架构 对接OpenStack平台为云主机提供高性能块 存储服务 • 对接Kubernetes为其提供RWO、RWX等类 型的持久化存储卷 • 对接PolarFS作为云原生数据库的高性能存储 底座，完美支持云原生数据库的存算分离架 构 • Curve作为云存储中间件使用S3兼容的对象 存储作为数据存储引擎，为公有云用户提供 高性价比的共享文件存储 • 支持在物理机上挂载使用块设备或FUSE文件 致已经被提交，系统切换到新的配置(new)。RAFT协议简介 日志压缩 • 日志会不断增长，占用空间 • 采用快照的方式压缩日志 • 在某个时间点，整个系统的状态都以快照的形式写入 到稳定的持久化存储中 • 完成一次快照之后，删除时间点之前的所有日志和快 照。BRAFT简介 • raft协议提出之后，涌现出了非常多的实现，比如etcd，braft，tikv等。 • braft是raft的一

新一代云原生分布式存储—Curve 上 李小翠 网易数帆存储团队分布式存储介绍 01 存储的发展 | 分布式存储的分类 | 分布式存储的要素 02 03 04 Ceph 架构简介 | 场景介绍 | 使用中的问题 Curve 架构简介 | 数据对比 | 应用情况 FAQ 答疑存储的发展 互联网时代，数据大爆炸 大型主机 成本高 单点问题 扩容困难 各存储设备通过网络互联 各存储设备通过网络互联 大规模 弹性扩容 底层构建在分布式存储之上 云的概念 成本：共用基础设施 弹性：随意扩缩容 速度：更快的构建发布业务 底层构建在分布式存储之上 云原生的概念： 易用性：跨平台，超融合，弹性 小型主机 容量有限分布式存储的分类 按照各种应用场景所需的存储接口分类 对象 存储 文件 存储 块存储 接口为简单的 Get、PUT、DEL 和其他扩展 通常意义是支持 对指定地址空间进行随机读写 传统意义的块存储：磁盘分布式存储的要素 如何构建分布式文件系统？ 以分布式块存储为例。 •提供大容量的块设备 •可以在指定地址空间内随机读写 write(offset, len) •服务质量要求：数据不能丢、服务随时可用、弹性扩缩容 要什么 •成百上千台存储节点 •磁盘故障、机器故障、网络故障概率性发生 有什么 分布式存储系统需要满足接口需求，并且有持续监控、错误检测、容错与自动恢复的能力

实现文件共享，使用 BIND 提供域名解析服务，使用 DHCP 动态管理主机地址，使用 Postfix 与 Dovecot 部署邮件系统，使用 Ansible 服务实现自动化运维，使用 iSCSI 服务部署网络存储，使用 MariaDB 数据库管理系统，使用 PXE+Kickstart 无人值守安装服务，使用 LNMP 架构部署动态网站环境等。此外， 本书的配套站点还深度点评了红帽 RHCSA、RHCE、RHCA 用的知识继续分享给读者，希望这本新书依然能够帮助大家少走一些弯路，更轻松地入 门 Linux 系统。 窃以为，一名技术高超的导师不应该仅仅是技术的搬运工，而应该是优质知识的提炼者。 所以在写作过程中，我不希望也不会将自己了解掌握的所有信息都填充到这本书里，借此来 13 炫技，而是从真正贴近于新人学习特点的角度出发，主动摒弃不实用的部分，并把重点、难 点反复实践。这样的 名。本书将 会从零基础带领您入门 Linux 系统，然后渐进式地提高内容难度，以匹配生产环境对运维人 员的要求。而且，本书每章都配套有大量的图、表、命令示例以及课后复习题，大家可以在 阅读本书的过程中同步操作完所有的实验内容，以达到增强学习兴趣与加深记忆的效果。最 后，本书以及配套资源相较于当前红帽 RHCE 8 版本的考试要求，至少要再多出 50%的内容， 而且已经有几千位学员陆续通过本

在线申请部署及操作、变更、回收............................................ 23 杭州飞致云信息科技有限公司 软件用起来才有价值，才有改进的机会 4 2.3.9 对象存储在线申请及文件上传下载管理..................................................... 23 2.3.10 人工服务申请............... IT 面临的问题及解决方案进行了长期专注 的产品研发及落地实践，籍此白皮书阐述和介绍多年实践积累的产品及解决方案，希望能够 帮助广大企业能够从根本上解决传统 IT 以及 IT 基础架构、工具体系演进过程中面临的问题， 早日完成实现 IT 服务管理模式的转型，从而助力加速企业数字化转型，业务的快速发展， 减少业务快速发展在 IT 侧形成的阻力，同时解放释放 IT 人力。 杭州飞致云信息科技有限公司 转型，加速业务系统的开发、测试、投产、上线，同时减少人工操作以及人工操作风险、解 放人力、提升运维的效率，以及减少资源浪费降低成本支出。并能够在现有的 IT 服务管理 模式转型框架基础上，与时俱进，不断整合演进过程中新采纳和替换的基础架构和运维工具 平台，保持和提升服务、管理、运维、运营各方面的自动化水平和场景自动化覆盖。 图 1: 业务生命周期场景 杭州飞致云信息科技有限公司 软件用起来才有价值，才有改进的机会

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74 Debian 参考手册 viii 3 系统初始化 75 3.1 启动过程概述 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 系统安全性和完整性检查 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 153 9.6 数据存储技巧 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158 9.6.12 通过 $TMPDIR 指定临时存储目录 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 158 9.6.13 通过 LVM 扩展可用存储空间 . . . . . . . . . . . . . . . . . . . . . . .

最终实现统一操作系 统支持多设备，应用一次开发覆盖全场景。 openEuler 覆盖全场景的创新平台 服务器 云计算 边缘 嵌入式 基础公共服务 服务器 开源操作系统的构建过程，也是供应链聚合优化的过程。拥有可靠开源软件供应链，是大规模商用操作系统的基础。 openEuler 从用户场景出发，回溯梳理相应的软件依赖关系，理清所有软件包的上游社区地址、源码和上游对应验证。完成构建验证、 技术白皮书 平台架构 平台架构 05 openEuler 24.03 LTS 技术白皮书 openEuler 是覆盖全场景的创新平台，在引领内核创新，夯实云化基座的基础上，面向计算架构互联总线、存储介质发展新趋势， 创新分布式、实时加速引擎和基础服务，结合边缘、嵌入式领域竞争力探索，打造全场景协同的面向数字基础设施的开源操作系统。 openEuler 24.03 LTS 发布面向服务器、云 成为使能多样性算力的首选。 AI openEuler 兼容 NVIDIA、Ascend 等主流算力平台的软件栈，为用户提供高效的开发运行环境。通过将不同 AI 算力平台的软 件栈进行容器化封装，即可简化用户部署过程，提供开箱即用的体验。同时，openEuler 也提供丰富的 AI 框架，方便大家快速在 openEuler 上使用 AI 能力。 1. openEuler 已兼容 CANN、CUDA 等硬件 SDK，以及

阿里云、华为云、腾讯云、UCloud、青云、金山云。 超融合平台 超融合基础架构（Hyper Converged Infrastructure，或简称“HCI”） 是指在同一套单元设备中不仅仅具备计算、网络、存储和服务器虚拟化等 资源和技术，而且还包括备份软件、快照技术、重复数据删除、在线数据 压缩等元素，而多套单元设备可以通过网络聚合起来，实现模块化的无缝 横向扩展（scale-out），形成统一的资源池。比较知名常见的超融合平台 API 账号。 项目生命周期 指项目从开发测试、投产到系统运维、应用运维的整个过程。 应用系统 由多个应用组成的分布式系统。 应用 指独立部署运行的应用程序。 应用运行环境 支持应用系统运行的各类资源和环境，包括各类基础架构平台的虚拟机、 操作系统、云磁盘、网络、安全组、弹性 IP，负载均衡、RDS、对象存储、 DNS 等。 虚拟机 Virtual Machine，指通过软件模拟的具有完整硬件系统功能的、运行在一 虚拟机中都能够实现。 云磁盘 云硬盘（Elastic Volume Service）是一种为 ECS 等计算服务提供持久性 块存储的服务，通过数据冗余和缓存加速等多项技术，提供高可用性和持 久性，以及稳定的低时延性能。您可以对云硬盘做格式化、创建文件系统 等操作，并对数据做持久化存储 安全组 安全组是一种虚拟防火墙，具备有状态的数据包过滤功能，用于设置云服 务器、负载均衡、云数据库等实例的网络访问控制，控制实例级别的出入

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 408 8.79 完成安装过程 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . • 幻灯片和讲座:幻灯片可以用来解释清楚概念和逐步演示操作步骤。 • 示范:在学生亲自动手开始练习之前，教员可以就一些对学员来说可能比较复杂的步 骤进行示范。 • 复习题:提问应贯穿在每节课的过程中，以确保学生能够理解关键的概念。 • 上机练习:每隔一段时间，应让学生亲自动手做一些练习来模拟现实生活中可能会遇 到的情况。 一些教学提示和指导方针 32 教员职责 目录 Karmic Koala 的复杂程度 任意组合以上提到的方法。采用多样的教学风格和方法可以避免单调，有利于教学实 践。 • 对于较复杂的主题，先进行示范，然后再让学生进行上机练习。如果该主题比较简 单，可以在使用幻灯片进行过程演示时让学生自行进行练习。 • 解释如何和何时需要去使用界面上的选项。 总结 注意总结每节课的重点:可以按照以下步骤结束一堂课： • 让学生提出疑问。 • 对学生提出问题。 • 使用课程总结幻灯片，并在其中标明重点。

Un*x 或 GNU 系统 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9 2.4.5 受支持的存储系统 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9 2.5 内存与磁盘空间的需求 . . 5.3.5 内核模块黑名单 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 5.4 安装过程中的故障修复 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 5.4.1 光盘媒体的可靠性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70 B.5.1 安装过程中运行用户命令 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70 B.5.2 使用预置修改默认值 . . .