Apache ShardingSphere ElasticJob 中文文档 2023 年 11 月 01 日4; 服务器 B = 5,6,7,8,9。在不丢失分片 项的情况下,最大限度的利用现有资源提高吞吐量。 5.2.3 高可用 当作业服务器在运行中宕机时,注册中心同样会通过临时节点感知,并将在下次运行时将分片转移至仍 存活的服务器,以达到作业高可用的效果。本次由于服务器宕机而未执行完的作业,则可以通过失效转 移的方式继续执行。如下图所示。 5.2. 弹性调度 9 Apache ShardingSphere 。 • 定时任务触发时,如需重新分片,则通过主服务器分片,分片过程中阻塞,分片结束后才可执行任 务。如分片过程中主服务器下线,则先选举主服务器,再分片。 • 通过上一项说明可知,为了维持作业运行时的稳定性,运行过程中只会标记分片状态,不会重新分 片。分片仅可能发生在下次任务触发前。 • 每次分片都会按服务器 IP 排序,保证分片结果不会产生较大波动。 • 实现失效转移功能,在某台服务器 下次调度之前才开启重新分片流程。当作业执 行过程中服务器宕机,失效转移允许将该次未完成的任务在另一作业节点上补偿执行。 5.3.1 概念 失效转移是当前执行作业的临时补偿执行机制,在下次作业运行时,会通过重分片对当前作业分配进行 调整。举例说明,若作业以每小时为间隔执行,每次执行耗时 30 分钟。如下如图所示。 图中表示作业分别于 12:00,13:00 和 14:00 执行。图中显示的当前时间点为0 码力 | 98 页 | 1.97 MB | 1 年前3
 TiDB v5.2 中文手册· · · · · · · 310 8.6.6 TiDB/TiKV/PD 进程异常退出 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 311 8.6.7 TiKV 进程异常重启 · · · · · · · · · · · · · · · · · · · 函数在参数类型为 STRING 且包含 NULL 值时可能导致 TiFlash server 崩溃的问题 • Tools – TiCDC * 修复 TiCDC owner 在刷新 checkpoint 时异常退出的问题 #1902 * 修复 changefeed 创建成功后立即失败的问题 #2113 * 修复不合法格式的 rules filter 导致 changefeed 失败的问题 #1625 5.2 环境要求 由于 TiSpark 基于 Apache Spark 集群,在启动包含 TiSpark 组件的 TiDB 集群前,需要在部署了 TiSpark 组件的服务 器上安装 Java 运行时环境 (JRE) 8,否则将无法启动相关组件。 99 TiUP 不提供自动安装 JRE 的支持,该操作需要用户自行完成。JRE 8 的安装方法可以参考 OpenJDK 的文档说明。 如果部署服务器上已经安装有0 码力 | 2259 页 | 48.16 MB | 1 年前3
 TiDB v5.1 中文手册· · · · · · · 301 8.6.6 TiDB/TiKV/PD 进程异常退出 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 302 8.6.7 TiKV 进程异常重启 · · · · · · · · · · · · · · · · · · · 回退的锁无法被 TiFlash 清除的问题 – 修复当 TIMEZONE 类型的转换结果包含 TIMESTAMP 类型时返回错误结果的问题 – 修复 TiFlash 在 Segment Split 期间异常退出的问题 • Tools – TiDB Lightning * 修复在生成 KV 数据时可能发生的 panic 问题 #1127 * 修复数据导入期间 Batch Split Region 修复在导入 CSV 文件时,如果文件的最后一行未包含换行符 (\r\n) 会导入报错的问题 #1133 * 修复待导入的目标表中包含 double 类型的自增列时会导致表的 auto_Increment 值异常的问题 #1178 – Backup & Restore (BR) * 修复备份期间少数 TiKV 节点不可用导致的备份中断问题 #980 – TiCDC * 修复 Unified Sorter0 码力 | 2189 页 | 47.96 MB | 1 年前3
 TiDB v5.3 中文手册· · · · · · · 329 8.7.6 TiDB/TiKV/PD 进程异常退出 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 329 8.7.7 TiKV 进程异常重启 · · · · · · · · · · · · · · · · · · · 进程所接受的最大并发连接数。 47 user haproxy # 同 UID 参数。 group haproxy # 同 GID 参数,建议使用专用用户组。 nbproc 64 # 在后台运行时创建的进程数。在启动多个进程转发请求时, �→ 确保该值足够大,保证 HAProxy 不会成为瓶颈。 daemon # 让 HAProxy 以守护进程的方式工作于后台, �→ 等同于命令行参数 HAProxy 进程所接受的最大并发连接数。 user haproxy # 同 UID 参数。 group haproxy # 同 GID 参数,建议使用专用用户组。 nbproc 64 # 在后台运行时创建的进程数。在启动多个进程转发请求时, �→ 确保该值足够大,保证 HAProxy 不会成为瓶颈。 daemon # 让 HAProxy 以守护进程的方式工作于后台, �→ 等同于命令行参数0 码力 | 2374 页 | 49.52 MB | 1 年前3
 TiDB v5.4 中文手册· · · · · · · 398 8.8.6 TiDB/TiKV/PD 进程异常退出 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 398 8.8.7 TiKV 进程异常重启 · · · · · · · · · · · · · · · · · · · 未经授权运行抽数等批量任务获取数据,提高线上集群的稳定性和数据安全性。从 TiSpark v2.5.0 起开始 支持。 该功能默认关闭。开启后,如果用户没有对应的权限,通过 TiSpark 操作会抛出对应的异常。 用户文档 • TiUP 部署方式支持为 root 用户生成初始密码 集群启动命令增加了 --init 参数,有了该参数,在 TiUP 部署场景,TiUP 会为数据库 root 用户生成一个 HAProxy 进程所接受的最大并发连接数。 user haproxy # 同 UID 参数。 group haproxy # 同 GID 参数,建议使用专用用户组。 nbproc 64 # 在后台运行时创建的进程数。在启动多个进程转发请求时, �→ 确保该值足够大,保证 HAProxy 不会成为瓶颈。 daemon # 让 HAProxy 以守护进程的方式工作于后台, �→ 等同于命令行参数0 码力 | 2852 页 | 52.59 MB | 1 年前3
 TiDB v6.1 中文手册· · · · · · 771 10.9.6 TiDB/TiKV/PD 进程异常退出 · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · 771 10.9.7 TiKV 进程异常重启 · · · · · · · · · · · · · · · · · · · 语句仅显示实例级别的统计信息收集任务,且 TiDB 重启后历史任务记录会被清空, 因此用户无法查看历史统计信息的采集时间和相关细节。从 TiDB v6.1.0 起,该信息被持久化保存,集群 重启后依然可查询,可以为统计信息异常引起的查询性能问题提供排查依据。 用户文档 • TiDB/TiKV/TiFlash 参数支持在线修改 在 v6.1.0 之前的版本中,配置变更后,必须重启 TiDB 集群,配置才会生效,这对在线业务会造成一定的影响。 HAProxy 进程所接受的最大并发连接数。 user haproxy # 同 UID 参数。 group haproxy # 同 GID 参数,建议使用专用用户组。 nbproc 64 # 在后台运行时创建的进程数。在启动多个进程转发请求时, �→ 确保该值足够大,保证 HAProxy 不会成为瓶颈。 daemon # 让 HAProxy 以守护进程的方式工作于后台, �→ 等同于命令行参数0 码力 | 3572 页 | 84.36 MB | 1 年前3
 TiDB v7.1 中文手册log_batch 超过 2 GB 导致 TiKV panic 的问题 #13848 @YuJuncen • PD – 修复 TiKV panic 后,PD 监控面板 low space store 数量异常的问题 #6252 @HuSharp – 修复在 PD leader 切换后 Region Health 监控数据被删除的问题 #6366 @iosmanthus – 修复 Rule checker CommunicationsException: Communications link failure 如果 n milliseconds ago 中的 n 如果是 0 或很小的值,则通常是执行的 SQL 导致 TiDB 异常退出引起的报错, 推荐查看 TiDB stderr 日志;如果 n 是一个非常大的值(比如这里的 3600000),很可能是因为这个连接空闲太久 然后被中间 proxy 关闭了,通常解决方式除了调大 使用 peewee 连接到 TiDB 4.6.1.3 批量插入 如果你需要快速地将大量数据导入 TiDB 集群,最好的方式并不是使用 INSERT 语句,这并不是最高效的方法, 而且需要你自行处理异常等问题。推荐使用 PingCAP 提供的一系列工具进行数据迁移: • 数据导出工具:Dumpling。可以导出 MySQL 或 TiDB 的数据到本地或 Amazon S3 中。 • 数据导入工具:TiDB0 码力 | 4369 页 | 98.92 MB | 1 年前3
 TiDB v6.5 中文手册Dashboard。 独立部署 TiDB Dashboard,可以获得以下收益: – TiDB Dashboard 的计算将不会再对 PD 节点有压力,可以更好的保障集群运行。 – 如果 PD 节点因异常不可访问,也还可以继续使用 TiDB Dashboard 进行集群诊断。 – 在开放 TiDB Dashboard 到外网时,不用担心 PD 中的特权端口的权限问题,降低集群的安全风险。 更多信息,请参考 EXPLAIN ANALYZE 输出结果中 TiFlash 的 TableFullScan 算子的执行信息 #5926 @hongyunyan EXPLAIN ANALYZE 语句可以输出执行计划及运行时的统计信息。在 v6.5.0 中,TiFlash 对 TableFullScan 算子 的执行信息进行了完善,补充了 DMFile 相关的执行信息。你可以更加直观地查看 TiFlash 的数据扫描状 INFORMATION_SCHEMA.COLUMNS 的显示结果与 MySQL 一致 #25472 @hawkingrei – 优化 TiDB 在 TiFlash MPP 模式下对 TiFlash 节点的探活机制,缓解节点异常时对性能的影响 #39686 @hackersean • TiKV 62 – 当剩余空间不足时停止 Raft Engine 的写入以避免硬盘空间耗尽 #13642 @jiayang-zheng0 码力 | 4049 页 | 94.00 MB | 1 年前3
 TiDB v8.1 中文手册TiDB Lightning conflict.threshold 修改 默认值从 9223372036854775807 修改为 10000,从而迅速中断异常任务,以便用户 尽快进行相应调整。这避免了在导入完成 后,才发现是因为数据源异常或表结构定 义错误导致导入了大量冲突数据,从而节 省时间和计算资源。 TiCDC security.client- �→ allowed-user 新增 指定可用于客户端鉴权的用户名,列表中 trace-region-flow 配置项的问题 #7917 @rleungx – 修复扩缩容进度显示不准确的问题 #7726 @CabinfeverB • TiFlash – 修复在非严格 sql_mode 下插入数据到带有异常默认值的列可能导致 TiFlash panic 的问题 #8803 @Lloyd-Pottiger – 修复 TiFlash 在高并发读的情况下,可能返回瞬时不正确结果的问题 #8845 @JinheLin CommunicationsException: Communications link failure 如果 n milliseconds ago 中的 n 如果是 0 或很小的值,则通常是执行的 SQL 导致 TiDB 异常退出引起的报错, 推荐查看 TiDB stderr 日志;如果 n 是一个非常大的值(比如这里的 3600000),很可能是因为这个连接空闲太久 然后被中间 proxy 关闭了,通常解决方式除了调大0 码力 | 4807 页 | 101.31 MB | 1 年前3
 TiDB v8.0 中文手册TSO 的鲁棒性 #16545 @cfzjywxk – 优化清理悲观锁的逻辑,提高未提交事务的处理性能 #16158 @cfzjywxk – 增加 TiKV 统一健康控制,降低单个 TiKV 节点异常对集群访问性能的影响。可通过tikv-client. �→ enable-replica-selector-v2 禁用该优化 #16297 #1104 #1167 @MyonKeminta @zyguan • TiKV – 修复开启 tidb_enable_row_level_checksum 可能导致 TiKV panic 的问题 #16371 @cfzjywxk – 修复休眠的 Region 在异常情况下未被及时唤醒的问题 #16368 @LykxSassinator – 通过在执行下线节点操作前检查该 Region 所有副本的上一次心跳时间,修复下线一个副本导致整 个 Region 不可用的问题 TiFlash 数据损坏的问题 #8695 @JaySon-Huang – 修复在执行 PITR 恢复任务或 FLASHBACK CLUSTER TO 后,TiFlash 副本数据可能被意外删除,导致数 据异常的问题 #8777 @JaySon-Huang – 修复在执行 ALTER TABLE ... MODIFY COLUMN ... NOT NULL 时,将原本可为空的列修改为不可为 空之后,导致0 码力 | 4805 页 | 101.28 MB | 1 年前3
共 51 条
- 1
 - 2
 - 3
 - 4
 - 5
 - 6
 













