Greenplum 编译安装和调试Greenplum 编译安装和调试 本文先介绍如何从源代码编译安装Greenplum、初始化Greenplum集群。然后介绍SQL在 Greenplum中的典型执行路径,最后介绍一些调试技巧。 源代码使用 Greenplum 开源社区最新源代码 6X_STABLE 分支: https://github.com/greenplum-db/gpdb,内核代码基于 PostgreSQL | 499 有关如何安装多节点集群,请参考Greenplum官方安装文档。 2.2 集群初始化问题调试 有时候 gpinitsystem 会失败,但是不清楚失败原因是什么。 下面提供一些思路来 RCA: 2.2.1 使用 gpinitsystem 调试模式 gpinitsystem 有一个 -D 选项,使用这个选项可以看到更多的输出信息,根据这些额外的输出信息 可以发现并解决大部分问题。 脚本初始化集群和管理集群。可以通过在合适的地方设置日志或 者调试信息可以帮助分析某些难以解决的问题。 ● 集群初始化工具 gpinitsystem 是Bash脚本工具,有些时候它的报错信息很不清楚。这个 时候可以 ○ 使用 -D 选项 ○ gp_bash_functions.sh 是内部一个被频繁调用执行系统命令的函数,可以通过 set -x 可以打印出所有执行的命令的详细信息。对调试 hang 问题很有效。 ●0 码力 | 15 页 | 2.07 MB | 1 年前3
πDataCS赋能工业软件创新与实践元数据访问 业务数据读写 元数据映射 元数据: Ø 分布式KV,存储系统表 Ø 基于key的自然排序实现索引 Ø ⾼性能 Ø 基于watcher机制的⾼效分布式锁管理 Ø 基于MVCC的事务隔离级别 Ø 多集群数仓数据共享 计算节点: Ø 自定义虚拟数仓,资源隔离 Ø 向量化执⾏器(SIMD)和JIT Ø HTAP,弹性扩缩容 Ø eMPP专利,弹性⼤规模并⾏计算 Ø 分布式优化器 Ø 存算分离,存储独立扩展。 Ø ⾼可靠,支持跨多数据中⼼的灾备复制。 Ø 节约成本,全局数据唯⼀存储,通过共享存储来实现数据共 享,避免拷贝和维护多份数据副本。 事务管理: Ø 存两种隔离级别:Read Committed、Repeatable Read Ø ⾼性能事务管理器,支持自动扩展。 Ø ⾼可靠性,支持故障自动容错。 Ø 租户之间的事务管理器完全隔离,互不⼲扰。 @2024 基础设施服务。随着⼦公司接⼊的数量越来越多,数据量也急剧增长, 原本采用的Hadoop平台⽆法满⾜业务的分析需求,主要存在以下问题: Ø 数据同步和采集周期较长,实时性很差 Ø 数据量达到PB级别,数据分析性能直线下降 Ø 采用较多开源组件,技术栈太⼴,数据应用开发周期长 Ø Hadoop集群运维成本较⾼,技术响应慢 解决⽅案: 采用PieCloudDB作为核⼼数字底座,完成原来CD0 码力 | 36 页 | 4.25 MB | 1 年前3
TiDB中文技术文档语句语法 数据定义语句 (DDL) 数据操作语句 (DML) 事务语句 数据库管理语句 Prepared SQL 语句语法 实用工具语句 JSON 支持 Connectors 和 API TiDB 事务隔离级别 错误码与故障诊断 与 MySQL 兼容性对比 TiDB 内存控制文档 Bit-value Literals Boolean Literals Date 和 Time 字面值 十六进制的字面值 NULL (DDL) 数据操作语句 (DML) 事务语句 数据库管理语句 Prepared SQL 语句语法 实用工具语句 TiDB SQL 语法图 JSON 支持 Connectors 和 API TiDB 事务隔离级别 错误码与故障诊断 与 MySQL 兼容性对比 TiDB 内存控制 高级功能 历史数据回溯 垃圾回收 (GC) TiDB 运维文档 软硬件环境需求 部署集群 Ansible 部署方案(强烈推荐) 离线 构建 TiDB 用户文档 TiDB 数据库管理 SQL 优化 语言结构 字符集和时区 数据类型 函数和操作符 SQL 语句语法 JSON 支持 Connectors 和 API TiDB 事务隔离级别 错误码与故障诊断 与 MySQL 兼容性对比 TiDB 内存控制 高级功能 TiDB 用户文档 - 23 - 本文档使用 书栈(BookStack.CN) 构建 TiDB 数据库管理 TiDB 服务0 码力 | 444 页 | 4.89 MB | 6 月前3
TiDB v5.3 中文手册数据采用多副本存储,数据副本通过 Multi-Raft 协议同步事务日志,多数派写入成功事务才能提交,确 保数据强一致性且少数副本发生故障时不影响数据的可用性。可按需配置副本地理位置、副本数量等 策略满足不同容灾级别的要求。 • 实时 HTAP 提供行存储引擎TiKV、列存储引擎TiFlash 两款存储引擎,TiFlash 通过 Multi-Raft Learner 协议实时从 TiKV 复制 数据,确保行存储引擎 采用计算、存储分离的架构,可对计算、 存储分别进行扩容和缩容,计算最大支持 512 节点,每个节点最大支持 1000 并发,集群容量最大支持 PB 级别。 • Real-time HTAP 场景 随着 5G、物联网、人工智能的高速发展,企业所生产的数据会越来越多,其规模可能达到数百 TB 甚 至 PB 级别,传统的解决方案是通过 OLTP 型数据库处理在线联机交易业务,通过 ETL 工具将数据同步到 OLAP 型数据库进 Global 临时表 * 对集群内所有 session 可见,表结构持久化。 * 提供事务级别的数据隔离,数据只在事务内有效,事务结束后自动删除数据。 – Local 临时表 * 只对当前 session 可见,表结构不持久化。 * 支持重名,用户无需为业务设计复杂的表命名规则。 * 提供会话级别的数据隔离,降低业务设计复杂度,会话结束后删除临时表。 用户文档,#24169 • 支持0 码力 | 2374 页 | 49.52 MB | 1 年前3
TiDB v5.2 中文手册数据采用多副本存储,数据副本通过 Multi-Raft 协议同步事务日志,多数派写入成功事务才能提交,确 保数据强一致性且少数副本发生故障时不影响数据的可用性。可按需配置副本地理位置、副本数量等 策略满足不同容灾级别的要求。 • 实时 HTAP 提供行存储引擎TiKV、列存储引擎TiFlash 两款存储引擎,TiFlash 通过 Multi-Raft Learner 协议实时从 TiKV 复制 数据,确保行存储引擎 采用计算、存储分离的架构,可对计算、 存储分别进行扩容和缩容,计算最大支持 512 节点,每个节点最大支持 1000 并发,集群容量最大支持 PB 级别。 • Real-time HTAP 场景 随着 5G、物联网、人工智能的高速发展,企业所生产的数据会越来越多,其规模可能达到数百 TB 甚 至 PB 级别,传统的解决方案是通过 OLTP 型数据库处理在线联机交易业务,通过 ETL 工具将数据同步到 OLAP 型数据库进 • DQL (Data Query Language):数据查询语言,用来查询经过条件筛选的记录。 • DCL (Data Control Language):数据控制语言,用来定义访问权限和安全级别。 常用的 DDL 功能是对象(如表、索引等)的创建、属性修改和删除,对应的命令分别是 CREATE、ALTER 和 DROP。 3.3.2 查看、创建和删除数据库 TiDB 语境中的 Database0 码力 | 2259 页 | 48.16 MB | 1 年前3
TiDB v5.1 中文手册数据采用多副本存储,数据副本通过 Multi-Raft 协议同步事务日志,多数派写入成功事务才能提交,确 保数据强一致性且少数副本发生故障时不影响数据的可用性。可按需配置副本地理位置、副本数量等 策略满足不同容灾级别的要求。 • 实时 HTAP 提供行存储引擎TiKV、列存储引擎TiFlash 两款存储引擎,TiFlash 通过 Multi-Raft Learner 协议实时从 TiKV 复制 数据,确保行存储引擎 采用计算、存储分离的架构,可对计算、 存储分别进行扩容和缩容,计算最大支持 512 节点,每个节点最大支持 1000 并发,集群容量最大支持 PB 级别。 • Real-time HTAP 场景 随着 5G、物联网、人工智能的高速发展,企业所生产的数据会越来越多,其规模可能达到数百 TB 甚 至 PB 级别,传统的解决方案是通过 OLTP 型数据库处理在线联机交易业务,通过 ETL 工具将数据同步到 OLAP 型数据库进 • DQL (Data Query Language):数据查询语言,用来查询经过条件筛选的记录。 • DCL (Data Control Language):数据控制语言,用来定义访问权限和安全级别。 常用的 DDL 功能是对象(如表、索引等)的创建、属性修改和删除,对应的命令分别是 CREATE、ALTER 和 DROP。 3.2.2 查看、创建和删除数据库 TiDB 语境中的 Database0 码力 | 2189 页 | 47.96 MB | 1 年前3
TiDB v5.4 中文手册数据采用多副本存储,数据副本通过 Multi-Raft 协议同步事务日志,多数派写入成功事务才能提交,确 保数据强一致性且少数副本发生故障时不影响数据的可用性。可按需配置副本地理位置、副本数量等 策略满足不同容灾级别的要求。 • 实时 HTAP 提供行存储引擎TiKV、列存储引擎TiFlash 两款存储引擎,TiFlash 通过 Multi-Raft Learner 协议实时从 TiKV 复制 数据,确保行存储引擎 采用计算、存储分离的架构,可对计算、 存储分别进行扩容和缩容,计算最大支持 512 节点,每个节点最大支持 1000 并发,集群容量最大支持 PB 级别。 • Real-time HTAP 场景 随着 5G、物联网、人工智能的高速发展,企业所生产的数据会越来越多,其规模可能达到数百 TB 甚 至 PB 级别,传统的解决方案是通过 OLTP 型数据库处理在线联机交易业务,通过 ETL 工具将数据同步到 OLAP 型数据库进 群,该变量开关 保持升级前的状 态。对于 v5.4.0 及以上版本的新 建集群,该变量 开关默认保持 ON。 tidb_store_ �→ limit 修改 v5.4.0 前支持实 例级别及集群级 别的设置,现在 只支持集群级别 的设置。 31 2.2.1.2 配置文件参数 配置文件 配置项 修改类型 描述 TiDB stats-load- �→ concurrency �→ 新增 用于设置 TiDB0 码力 | 2852 页 | 52.59 MB | 1 年前3
NetBackup™ for SQLite 管理指南: Windows 和LinuxSQLITE_TARGET_DIRECTORY 如果未设置此值,则默认为 日志级别 1。 日志级别有助于控制要 访问用于解决错误的信 息量。 NBSQLITE_LOG_LEVEL 参数 可用于设置 nbsqlite 日志的 日志记录级别。对于特定的日 志记录级别,将记录处于或低 于该级别的所有详细信息。 nbsqlite 调试日志包括以下详 细级别: ■ 1–ERROR:应该纠正的条 件,例如配置错误。 ■ ■ 2 – WARN:不是错误但可 能需要特殊处理的条件。 ■ 3 – INFO:提示性消息。 ■ 4–DEBUG:调试用于故障 排除的消息。 NBSQLITE_LOG_LEVEL 如果未设置此参数,则默认 为 10MB。 您可以根据要写入日志 的事件指定该值。 指定 nbsqlite 日志大小 (MB)。当日志达到指定大小 时,会覆盖现有日志信息。 NBSQLITE_LOG_SIZE ■ 以前是否成功地执行过该操作?如果是,与现在有什么 不同? ■ Service Pack 级别是什么? ■ 您使用的操作系统软件是否安装了最新的修补程序,尤 其是那些必须和 NetBackup 一起使用的修补程序? ■ 您的设备固件级别是否已经过测试(根据发布的设备兼 容性列表),或者高于此级别? 确定出现问题时您正在做什么. 步骤 2 捕获以下可能有价值的信息: ■ NetBackup0 码力 | 34 页 | 777.04 KB | 1 年前3
Apache ShardingSphere v5.5.0 中文文档. . . . . . . . . . . . . . . . . . . . . . . . . 537 13.6.1 其他如果 SQL 在 ShardingSphere 中执行不正确,该如何调试? . . . . . . . . . 537 13.6.2 其他阅读源码时为什么会出现编译错误? IDEA 不索引生成的代码? . . . . . . . 538 13.6.3 其他使用 SQLSever • MySQL 事务块内,SQL 执行出现异常,执行 Commit,数据保持一致; • 配置 XA 事务后,存储单元名称最大长度不超过 45 个字符。 BASE 事务 不支持项 • 不支持隔离级别。 8.2.9 附录 不支持的 SQL: • 事务中使用 DistSQL 里的 RAL、RDL 操作; • XA 事务中使用 DDL 语句。 8.2. 分布式事务 34 Apache ShardingSphere 用于计算加解密列的逻辑名称,是 SQL 中列的逻辑标识。逻辑列包含密文列(必须)、查询辅助列(可 选)、模糊查询辅助列(可选)。 密文列 加密后的数据列。 查询辅助列 用于查询的辅助列。对于一些安全级别更高的非幂等加密算法,提供不可逆的幂等列用于查询。 模糊查询列 用于模糊查询的列。 8.7.7 使用限制 • 需自行处理数据库中原始的存量数据; • 模糊查询支持%、_,暂不支持 escape;0 码力 | 557 页 | 4.61 MB | 1 年前3
TiDB v6.1 中文手册数据采用多副本存储,数据副本通过 Multi-Raft 协议同步事务日志,多数派写入成功事务才能提交,确 保数据强一致性且少数副本发生故障时不影响数据的可用性。可按需配置副本地理位置、副本数量等 策略满足不同容灾级别的要求。 • 实时 HTAP 提供行存储引擎TiKV、列存储引擎TiFlash 两款存储引擎,TiFlash 通过 Multi-Raft Learner 协议实时从 TiKV 复制 数据,确保行存储引擎 采用计算、存储分离的架构,可对计算、 存储分别进行扩容和缩容,计算最大支持 512 节点,每个节点最大支持 1000 并发,集群容量最大支持 PB 级别。 • Real-time HTAP 场景 随着 5G、物联网、人工智能的高速发展,企业所生产的数据会越来越多,其规模可能达到数百 TB 甚 至 PB 级别,传统的解决方案是通过 OLTP 型数据库处理在线联机交易业务,通过 ETL 工具将数据同步到 OLAP 型数据库进 版本中,你可以获得以下关键特性: • List 和 List COLUMNS 分区方式 GA,与 MySQL 5.7 兼容 • TiFlash 分区表动态裁剪 GA • 支持兼容 MySQL 的用户级别锁管理 • 支持非事务性 DML 语法(目前仅支持 DELETE) 32 • TiFlash 支持按需触发物理数据整理(Compaction) • MPP 实现窗口函数框架 • TiCDC0 码力 | 3572 页 | 84.36 MB | 1 年前3
共 64 条
- 1
- 2
- 3
- 4
- 5
- 6
- 7













