Doris的数据导入机制以及原子性保证等待回收任务删除已写入数据  ## 总结 多版本机制解决读写冲突 • 写入带版本 · 查询带版本 两阶段导入保证多表原子生效 - 支持并行导入 - 有冲突时按导入顺序生效,无冲突导入时并行生效 事务能力保证  决定对象是否是垃圾对象,并进行 回收。 学 垃圾回收机制的特点 * 垃圾内存并不是用完了马上就被释放,所以会产生内存释放 不及时的现象,从而降低内存的使用效率。 有归程 序庞大的 时候,这种现象更为明显。0 码力 | 44 页 | 818.30 KB | 2 年前3
2.4 基于Go-Ethereum构建DPOS机制下的区块链基于Go-Ethereum构建DPOS机制下的区块链 恺英网络一朱崇文 ’ alt=‘OCR图片’/> 目录 1 Go版本以太坊 2 为何选择DPOS机制 3 拓展共识改造实战 4 智能合约的实践 5 压力测试下暴露的问题 GopherChina2018 ’ alt=‘OCR图片’/> Go版本以太坊 ’ alt=‘OCR图片’/> Go版本以太坊 以太坊的工具组 ’ alt=‘OCR图片’/> GopherChina2018 ’ alt=‘OCR图片’/> 为何选择DPOS机制 共识机制对比 POW • 消耗计算力 • 出块速度慢,确认慢 • TPS极低 10~20 • 确认1分钟+ DPOS • 代理人模式 • 出块速度快,确认快 • TPS 700~1000 (实现) • 平均确认1~3秒 ’ alt=‘OCR图片’/> 为何选择DPOS机制 DPOS机制的优势 系统可靠性 在商业场景下,网络性能可控 the local miner’s GopherChina2018 ’ alt=‘OCR图片’/> 拓展共识改造实战 借鉴Clique(POA)的实现 Clique Go-Ethereum实现的机制,用以公共测试链 整个网络由Signer节点出块 Signer节点可以投票选择其他Signer节点 节点之间可以相互竞争出块 存活节点数 > (n/2) +1 Signer 节点的选举记录在Extra0 码力 | 34 页 | 2.01 MB | 1 月前3
Raft在Curve存储中的工程实践c0c35fe8/p10_4.jpg) ## RAFT协议简介 ## 日志压缩 • 日志会不断增长,占用空间 • 采用快照的方式压缩日志 - 在某个时间点,整个系统的状态都以快照的形式写入到稳定的持久化存储中 - 完成一次快照之后,删除时间点之前的所有日志和快照。  ## Curve块存储RAFT应用 入天然具有幂等性。 - 对chunk打快照不需要把chunk重新换个地方复制一遍,只需要记录下chunk文件的list。 - follower从快照恢复,只需要leader把最近一次快照涉及到chunk数据给到follower,follower再从上次快照后的日志重放即可。 - chunkserver服务重启,只需要加载快照,然后对chunk重放快照之后日志即可。  或适用于 Linux 的逻辑卷管理器 (LVM) 创建 SQLite 数据库的快照。 代理装入快照,将文件复制到 XBSA 数据对象中,然后将其发送到 NetBackup XBSA 接口。NetBackup XBSA 接口将此数据写入由 a927529548cae272/p12_1.jpg) ## NetBackup for SQLite 备份工作流程 启动备份时,NetBackup 客户端 (nbslite) 创建一个快照,装入该快照,将文件复制到 XBSA 数据对象中。然后,代理将文件发送到 NetBackup XBSA 接口。 NetBackup XBSA 接口将此数据写入由 NetBackup 介质服务器管理的装入介质或磁盘存储。 在用户变量路径中设置 NetBackup\bin 目录。 从 “NetBackup 管理控制台” 配置 DataStore 策略。 (LVM) 验证卷组中的空间是否足以存放快照,然后通过命令行设置快照大小。 注意:确保快照大小是要备份的文件大小的 110%。 ## 运行备份 1 在 nbslite 命令行中配置参数。 2 运行以下命令: nbsqlite -o backup -S primary0 码力 | 29 页 | 675.75 KB | 2 年前3
curvefs client删除文件和目录功能设计chubaofs 方案设计思考 1. Trash机制是实现1个(类似chubaofs),还是2个(类似moosefs)? 2. Trash 放在哪里? 3. 是否需要做 session 机制(在 metaserver 打开),来维护 inode 的打开情况? • 方案设计 • Trash机制: • Session机制: • 遗留问题 • 工作量评估 ## 背景 未对接forget 2. moosefs 实现了在 mds 上 open,因此删除时可以判断文件是否被打开 3. moosefs使用了两种机制,来实现上述功能,分别是trash机制和reserve机制(最新版本叫sustained),两种机制如下: ## trash机制: 对于所有TYPE_FILE类型的文件在删除时,若其transhtime大于0,则不会立即将该文件彻底删除,而是将其类型修改为 入回收站。 通过META文件系统来访问trash 通过trash机制,可实现文件的恢复UNDEL 回收站实现了一个timer,定期判断trashtime,执行定期清理回收站 清理时,当文件仍处于打开状态,则还需要进入下sustained/reserve中。 ## sustained机制/reserve机制 当一个trashtime等于0的TYPE FILE类型的文件被一0 码力 | 15 页 | 325.42 KB | 1 年前3
NetBackup™ for SQLite 管理指南: Windows 和Linux文件包含必须在运行相应操作之前设置的参数。 请参见第 13 页的“nbsqlite.conf 配置文件”。 代理创建存在单个数据库文件的卷的快照。适用于 Windows 的卷影复制服务 (VSS) 或适用于 Linux 的逻辑卷管理器 (LVM) 创建 SQLite 数据库的快照。 代理装入快照,将文件复制到 XBSA 数据对象中,然后将其发送到 NetBackup XBSA 接口。NetBackup XBSA 接口将此数据写入由 NetBackup 主服务器。SNAPSHOT_SIZE (Linux) 以千字节、兆字节或十亿字节(分别为 KB、MB 或 GB)为单位指定 LVM 快照的快照大小。 LVM 备份 如果未设置此参数,则默认为 MB。 DB_BACKUP_ID 表示备份映像名称。此参数可配置 2/3/0/1230c9ee5e2080907656ea8e08e21530/p17_1.jpg) ## NetBackup for SQLite 备份工作流程 启动备份时,代理创建一个快照,装入该快照,将文件复制到XBSA数据对象中。然后,代理将文件发送到 NetBackup XBSA 接口。 NetBackup XBSA 接口将此数据写入由 NetBackup 介质服务器管理的装入介质或磁盘存储。 0 码力 | 34 页 | 777.04 KB | 2 年前3
TiDB v5.4 Documentation0 码力 | 3650 页 | 52.72 MB | 2 年前3
CurveFS方案设计|2021-03-30|李小翠|增加快照部分| |2021-04-13|李小翠、陈威|补充元数据数据结构| |2021-04-19|李小翠、吴汉卿、许超杰等|补充文件空间分配,讨论与确认| 背景 • 调研 • 开源fs • 性能对比 • 可行性分析 方案对比 • 对比结论 • 架构设计 卷和文件系统 元数据架构 文件系统快照 • 方案一:文件/目录级别快照 • 方案二:文件系统快照 方案二:文件系统快照 • 关键点 - 元数据设计 - 数据结构 - 索引设计 - 文件空间管理 - 开发计划及安排 ## 背景 为更好的支持云原生的场景,Curve需要支持高性能通用文件系统,其中高性能主要是适配云原生数据库的场景。当前Curve是实现了块存储,向上提供块设备服务,CurveFS会基于此实现。第一阶段的目标是实现满足数据库场景的文件接口。 调研 开源fs Link 1. 创建新的dentry,指向同一个inode ## 文件系统快照 ## 方案一:文件/目录级别快照 快照是文件系统或卷的只读副本,快照要求可以即时创建。类似 moosefs,curvefs 可以计划支持目录及文件级别的快照,目录级别和文件级别的快照可以认为就是 cp 的实现。 对于文件/目录级别的快照: 检查目的节点的父节点中是否有同名文件存在: ■ 检查目的节点的父节点中是否有同名文件存在:0 码力 | 14 页 | 619.32 KB | 1 年前3
Oracle VM VirtualBox 4.2.8 User Manual0 码力 | 324 页 | 5.85 MB | 2 年前3共 866 条- 1
- 2
- 3
- 4
- 5
- 6
- 87













