Greenplum备份恢复浅析Greenplum备份恢复浅析 姓名:张文杰 邮箱:zhuodao.zwj@alibaba-inc.com 公司:阿里云 2017 年象行中国(杭州 站)第一期 Greenplum数据备份恢复: 1. 数据量较大 2. 不能完全使用Xlog日志备份 3. 需要保证数据完整性和一致性 2017 年象行中国(杭州 站)第一期 Greenplum提供了: 1. 非并行备份和恢复: --pg --pg_dump和pg_dumpall(pg_restore) --copy、psql 2. 并行备份和恢复 --gpcrondump(gpdbrestore) 2017 年象行中国(杭州 站)第一期 并⾏备份和恢复 gpcrondump gpdbrestore 2017 年象行中国(杭州 站)第一期 gpcrondump⽤法(1/3) gpcrondump -x database_name来指定唯一时间戳来标示某个备份集 文件,其中如果当前备份目录中存在更未来的备份集,则备份报错。 gpcrondump命令使用-t 或者--table-file,-T或者--exclusive-table-file,-s或 者--schema-file,-S或者--exclusive-schema-file灵活指定需要全量备份的某 个table或者某个schema,其中-s和-t选项不能同时使用 0 码力 | 17 页 | 1.29 MB | 1 年前3
微信 SQLite 数据库
损坏恢复实践微信 SQLite 数据库 损坏恢复实践 johnwhe (何俊伟) ◊ 问题背景 ◊ 常规做法 ◊ 数据备份 ◊ Repair Kit ◊ 组合方案 SQLite 恢复 ◊ 微信聊天记录只存客户端 ◊ SQLCipher 加密数据库 问题背景 ◊ SQLite 概率性损坏 ◊ 1/20,000 ~ 1/10,000 ◊ 256MB ~1%,1GB ~1‰ ◊ 设备断电、kernel ◊ 问题背景 ◊ 常规做法 ◊ 数据备份 ◊ Repair Kit ◊ 组合方案 SQLite 恢复 ◊ .dump 命令 ◊ 来自 SQLite 命令行工具 ◊ 整个 DB 输出为 SQL 语句 常规做法 .dump 输出 ◊ 打开损坏 DB 后使用 ◊ 遇到错误前一直输出 ◊ 遇到错误,跳到下一个表 .dump 用于恢复 ◊ 成功率仅 ~30% ◊ 打不开 DB 问题背景 ◊ 常规做法 ◊ 数据备份 ◊ Repair Kit ◊ 组合方案 SQLite 恢复 ◊ 主要考虑因素 ◊ 恢复成功率 ◊ 空间大小 ◊ 性能 ◊ 加密 数据备份 备选方案 方案 优点 缺点 文件复制 + 压缩 实现简单 非原子操作 Backup API 热备份 稍慢 .dump (SELECT 输出) 有选择备份 备选方案 测试: ~50MB,10W0 码力 | 31 页 | 546.35 KB | 1 年前3
MySQL 数据库架构灾难恢复解决方案MySQL 数据库架构 灾难恢复解决方案 MySQL InnoDBClusterSet 介绍 MySQL SE 罗伟文 2 / 55 Safe Harbor Statement 以下内容旨在概述我们的一般产品方向。它仅供参考,不得纳入任何合同。它并不提供任何材料、代码或功能的承诺,不应据此做出购买决策。 Oracle 产品描述的任何特性或功能的开发、发布和时间安排仍由 Oracle 自行决定。 55 IT 灾难和中断:主要原因 停电是导致重大中断的最大原因 Copyright @ 2021 Oracle and/or its affiliates. IT 灾难和中断:代价不断上升 超过一半经历过代价超过10 万美元的中断。 Copyright @ 2021 Oracle and/or its affiliates. 4 / 55 IT 灾难和中断:例子 5 小时的计算机中断代价 由于取消约130 个航班和延误200 个航班,成千上万的乘客滞留在世界各 地。 在法国云服务irm 的故障后, 数百万个网站下线了。Anger 预计将使公司 损失超过1.05 亿欧元。 数以百万计的银行客户无法访问在线帐户。银行花了将近2天的时间才恢 复正常运作。 5 / 55 Copyright @ 2021 Oracle and/or its affiliates. 过去、现在和未来 Copyright0 码力 | 52 页 | 3.07 MB | 1 年前3
Greenplum 编译安装和调试Greenplum 编译安装和调试 本文先介绍如何从源代码编译安装Greenplum、初始化Greenplum集群。然后介绍SQL在 Greenplum中的典型执行路径,最后介绍一些调试技巧。 源代码使用 Greenplum 开源社区最新源代码 6X_STABLE 分支: https://github.com/greenplum-db/gpdb,内核代码基于 PostgreSQL 使用Mac系统,但是不在官方支持列表中。 1.1 在 Mac 系统上编译 首先需要关闭苹果操作系统的 SIP 特性,否则无法初始化集群。 1. 重启操作系统 2. 重启过程中按下 command+R 进入恢复模式 3. 从 Utilities 菜单选择 Terminal 4. 执行 csrutil disable 5. 重启操作系统 // 安装Greenplum管理脚本依赖的 Python 首先下载 Greenplum 源代码 $ git clone https://github.com/greenplum-db/gpdb Greenplum Database 编译和运行依赖于各种系统库和Python库。需要先安装这些依赖: $ sudo yum groupinstall 'Development Tools' # GCC, libtools etc $ sudo0 码力 | 15 页 | 2.07 MB | 1 年前3
SQLite概述、安装和使用SQLite概述、安装和使用 北京理工大学计算机学院 金旭亮 http://www.sqlite.org/ •一种单用户单文件的关系数据库 •占用资源少,适合于嵌入式产品 •无需安装,可以直接嵌入到应用程序中, Java应用只需引用一个jar包即可 •Android操作系统内置对SQLite的直接支持 SQLite概述 官网: http://www.sqlite.org/download 建一个新文件。 创建表 create table test (id integer primary key, value text); 使用create table命令创建test表,表中有两个字段:id和value test表创建完成之后,打开文件资源管理器,你会发现test.db文件 己经创建好了,你可以在SQLite Shell中使用.tables命令列出当前 数据库(即test.db)中的所有表。 NULL:空值(表示没有数据) ▪ INTEGER:整数 ▪ REAL:浮点数 ▪ TEXT:文本与字符串 ▪ BLOB:二进制类型的数据 在创建表时给与表字段明确的类型,并且只向表中插入和提取对应类型 的数据,是一条应该遵循的编程规范。 SQLite数据库是一种“动态类型”的数 据库,可以将不同类型的数据“塞入” 同一个字段中。 插入数据 使用insert命令插入数据,select命令查询插入的数据。0 码力 | 17 页 | 717.73 KB | 1 年前3
Oracle 和 MySQL 性能优化感悟0 码力 | 19 页 | 3.82 MB | 1 年前3
Greenplum机器学习⼯具集和案例2017.thegiac.com www.top100summit.com Greenplum机器器学习⼯工具集和案例例 姚延栋 Pivotal 研发技术总监 2017.thegiac.com • Greenplum ⼤大数据平台 • Greenplum 机器器学习⼯工具 • Greenplum 机器器学习案例例 ⼤大纲 2017.thegiac.com 机器学习工具集 2017.thegiac.com • PL/X:各种语言实现自定义函数(存储过程) • MADLib: 数据挖掘、统计分析、图(Graph)等算法 • GPText:文本检索和分析 • GeoSpatial:地理信息数据分析 • Image: 图像数据分析 Greenplum 机器器学习⼯工具集 2017.thegiac.com Greenplum Procedure 历史回顾 2017.thegiac.com 金融 保险 医疗 汽车 制造 科研 政府机构 互联网 娱乐和媒体 零售 MADlib ⽤用户和场景 2017.thegiac.com 功能 Data Types and TransformaJons Array and Matrix Operations Matrix FactorizaDon0 码力 | 58 页 | 1.97 MB | 1 年前3
NetBackup™ for SQLite 管理指南: Windows 和LinuxNetBackup™ for SQLite 管 理指南 Windows 和 Linux 版本 10.0 NetBackup™ for SQLite 管理指南 上次更新时间: 2022-05-10 法律声明 Copyright © 2022 Veritas Technologies LLC. © 2022 年 Veritas Technologies LLC 版权所 有。All rights rights reserved. 保留所有权利。 Veritas、Veritas 徽标和 NetBackup 是 Veritas Technologies LLC 或其附属机构在美国和其他 国家/地区的商标或注册商标。其他名称可能为其各自所有者的商标,特此声明。 本产品可能包括 Veritas 必须向第三方支付许可费的第三方软件(以下称“第三方程序”)。 部分第三方程序会根据开源或免费软件许可证提供。软件随附的授权许可协议不会改变这些 com/about/legal/license-agreements 本文档中介绍的产品根据限制其使用、复制、分发和反编译/逆向工程的许可证进行分发。未 经 Veritas Technologies LLC 及其许可方(如果存在)事先书面授权,不得以任何方式任何形 式复制本文档的任何部分。 本文档按“现状”提供,对于所有明示或暗示的条款、陈述和保证,包括任何适销性、针对 特定用途的适用性或无侵害知识产权的暗示保证,均不提供任何担保,除非此类免责声明的0 码力 | 34 页 | 777.04 KB | 1 年前3
PostgreSQL和Greenplum 数据库故障排查2018年PostgreSQL中国技术大会 PostgreSQL和Greenplum 数据库故障排查 赵振平 zzp@taryartar.com 北京太阳塔信息科技有限责任公司 2018年PostgreSQL中国技术大会 自我介绍 微信号:laohouzi999 2018年PostgreSQL中国技术大会 • 赵振平,太阳塔技术总监 • 电子工业出版社签约作家 • 腾讯最具价值专家(TVP) 微信号:laohouzi999 log_statement = 'none' # none, ddl, mod, all 控制记录哪些SQL语句。none不记录,ddl记录所有数据定 义命令,比如CREATE,ALTER,和DROP 语句。mod记录所有ddl 语句,加上数据修改语句INSERT,UPDATE等,all记录所有执行的 语句,将此配置设置为all可跟踪整个数据库执行的SQL语句。 log_duration 2018年PostgreSQL中国技术大会 连接方式(type) 共有三种:local、host、hostssl、hostnossl local使用本地unix套接字 host使用TCP/IP连接(包括SSL和非SSL) “IPv4地址”使用IPv4方式 hostssl只能使用SSL TCP/IP连接 hostnossl不能使用SSL TCP/IP连接 数据库(database)0 码力 | 84 页 | 12.61 MB | 1 年前3
NetBackup™ for SQLite 管理指南: Windows 和 Linux - 版本:10.2NetBackup™ for SQLite 管 理指南 Windows 和 Linux 版本 10.2 NetBackup™ for SQLite 管理指南 上次更新时间: 2023-04-28 法律声明 Copyright © 2023 Veritas Technologies LLC. © 2023 年 Veritas Technologies LLC 版权所 有。All rights rights reserved. 保留所有权利。 Veritas、Veritas 徽标、Veritas Alta 和 NetBackup 是 Veritas Technologies LLC 或其附属机 构在美国和其他国家/地区的商标或注册商标。其他名称可能为其各自所有者的商标,特此声 明。 本产品可能包括 Veritas 必须向第三方支付许可费的第三方软件(以下称“第三方程序”)。 部分第三方程序会 com/about/legal/license-agreements 本文档中介绍的产品根据限制其使用、复制、分发和反编译/逆向工程的许可证进行分发。未 经 Veritas Technologies LLC 及其许可方(如果存在)事先书面授权,不得以任何方式任何形 式复制本文档的任何部分。 本文档按“现状”提供,对于所有明示或暗示的条款、陈述和保证,包括任何适销性、针对 特定用途的适用性或无侵害知识产权的暗示保证,均不提供任何担保,除非此类免责声明的0 码力 | 29 页 | 675.75 KB | 1 年前3
共 144 条
- 1
- 2
- 3
- 4
- 5
- 6
- 15













