PostgreSQL WAL日志解析与应用PostgreSQL WAL日志解析与应用 王硕 山东瀚高基础软件股份有限公司 ## CONTENTS Part 01 WAL 日志简介 Part 02 WAL 日志工作原理 Part 03 利用 WAL 日志我们可以做什么? ## Part 01 WAL 日志简介 www.highgo.com ## Write Ahead Log Files - WAL 日志一般存储在$PGDAT 日志一般存储在$PGDATA/pg_xlog内,他们一般以类似于0000000100000002000000D4的文件存储。  - WAL 日志文件XLOG 文件是一个逻辑概念,每一个XLOG 文件,大小为4G(16*256),由256个segment组成; • • Segment由2048个Block组成,其大小为16M; - Block为WAL日志的最小单位,其大小8k,由PageHeaderData、XlogRecord、XLogRecData组成。 ## Write Ahead Log Files 00000001 00000002 000000D4 XLogLongPageHeaderData  ## 大纲 · 自我介绍 系统介绍 整体架构 系统实现 遇到问题 ## 😍 ## ⼀ ⾃我介绍 ## 自我介绍 · 大龄码农 - 做过嵌入式/CDN/数据库开发 - 从C/C++到Rust • 现在在腾讯云(专有云)从事日志系统的开发 ## 系统介绍  ## 系统实现 • 协议层 · 处理层 · 计算层 • 存储层  ### 1. RAINBOND自身日志管理机制 ### 1.1 日志界面  # 1.RAINBOND自身日志管理机制 ### 1.1 日志界面 首页 / 我的应用 / 服务日志对接Es示例 / NGINX NGINX 访问 关闭 管理容器 其他操作 最近1000条日志 2019-07-30T15:59:22.251Z INFO [monitoring] log/log.go:1240 码力 | 11 页 | 1.62 MB | 2 年前3
OpenShift Container Platform 4.7 日志记录[Image](/uploads/documents/f/0/5/8/f058047a6bb5b564ffd8eb060ef4374c/p1_1.jpg) ### OpenShift Container Platform 4.7 日志记录 OpenShift Logging 安装、使用和发行注记 Powered by TCPDF (www.tcpdf.org) OpenShift Logging 安装、使用和发行注记 Enter owners. ## 摘要 本文档提供有关安装、配置和使用 OpenShift Logging 的说明,该 Logging 将汇总多个 OpenShift Container Platform 服务的日志。 ## 目录 第1章 RED HAT OPENSHIFT LOGGING 发行注记 ..... 7 1.1. 使开源包含更多 ..... 7 1.2. 支持的版本 ..... 7 1 弃用和删除的功能 ..... 8 1.2.1.2.1. Elasticsearch Curator 已被删除 ..... 8 1.2.1.2.2. 使用旧的 Fluentd 和旧 syslog 方法转发日志已被弃用 ..... 8 1.2.1.3. 程序错误修复 ..... 8 1.2.2. OpenShift Logging 5.0.9 ..... 9 1.2.2.1. 程序错误修复 .0 码力 | 183 页 | 1.98 MB | 2 年前3
OpenShift Container Platform 4.8 日志记录[Image](/uploads/documents/5/a/9/2/5a929cacb989bfad7a4ea2e6bae9886c/p1_1.jpg) ### OpenShift Container Platform 4.8 日志记录 OpenShift Logging 安装、使用和发行注记 Powered by TCPDF (www.tcpdf.org) OpenShift Logging 安装、使用和发行注记 ## 法律通告 本文档提供有关安装、配置和使用 OpenShift Logging 的说明,该 Logging 将汇总多个 OpenShift Container Platform 服务的日志。 ## 目录 第1章 LOGGING 发行注记 ..... 5 1.1 日志记录 5.4.9 ..... 5 1.2 LOGGING 5.4.8 ..... 7 1.3 LOGGING 5.4.6 ..... 8 1.4 安装后的任务 ..... 69 第4章 配置日志部署 ..... 72 4.1 集群日志记录自定义资源 (CR) ..... 72 4.2 配置日志记录收集器 ..... 73 4.3. 配置日志存储 ..... 79 4.4. 配置日志可视化工具 ..... 93 4.5. 配置 OPENSHIFT LOGGING 存储 ..... 95 4.6. 为 OPENSHIFT0 码力 | 223 页 | 2.28 MB | 2 年前3
OpenShift Container Platform 4.14 存储### OpenShift Container Platform 4.14 ## 存储 在 OpenShift Container Platform 中配置和管理存储 Powered by TCPDF (www.tcpdf.org) 在 OpenShift Container Platform 中配置和管理存储 ## 法律通告 Copyright $ ^{©} $ 2023 Red Hat owners. ## 摘要 本文档提供了使用不同存储后端配置持久性卷以及通过 pod 管理动态分配存储的信息。 ## 目录 第1章 OPENSHIFT CONTAINER PLATFORM 存储概述 ..... 4 1.1. OPENSHIFT CONTAINER PLATFORM 存储的常见术语表 ..... 4 1.2. 存储类型 ..... 6 1.3. CONTAINER 1.4. 动态置备 ..... 6 第2章 了解临时存储 ..... 7 2.1. 概述 ..... 7 2.2. 临时存储的类型 ..... 7 2.3. 临时存储管理 ..... 7 2.4. 监控临时存储 ..... 8 第3章 了解持久性存储 ..... 10 3.1. 持久性存储概述 ..... 10 3.2. 卷和声明的生命周期 ....0 码力 | 215 页 | 2.56 MB | 2 年前3
OpenShift Container Platform 4.8 存储### OpenShift Container Platform 4.8 ## 存储 在 OpenShift Container Platform 中配置和管理存储 Powered by TCPDF (www.tcpdf.org) 在 OpenShift Container Platform 中配置和管理存储 ## 法律通告 Copyright $ ^{©} $ 2023 Red Hat owners. ## 摘要 本文档提供了使用不同存储后端配置持久性卷以及通过 pod 管理动态分配存储的信息。 ## 目录 第1章 OPENSHIFT CONTAINER PLATFORM 存储概述 ..... 4 1.1. MODULES/OPENSHIFT-STORAGE-COMMON-TERMS.ADOC ..... 4 1.2. 存储类型 ..... 6 1.3. CONTAINER 1.4. 动态置备 ..... 6 第2章 了解临时存储 ..... 7 2.1. 概述 ..... 7 2.2. 临时存储的类型 ..... 7 2.3. 临时存储管理 ..... 7 2.4. 监控临时存储 ..... 7 第3章 了解持久性存储 ..... 9 3.1. 持久性存储概述 ..... 9 3.2. 卷和声明的生命周期 ..... 90 码力 | 118 页 | 1.60 MB | 2 年前3
Ceph分布式存储实战 (云计算与虚拟化技术丛书)# Ceph分布式存储实战 Ceph中国社区 著 十余位专家联袂推荐,Ceph中国社区专家撰写,权威性与实战性毋庸置疑。 系统介绍Ceph设计思想,三大存储类型与实际应用,高级特性,性能测试,调优与运维。  (云计算与虚拟化技术丛书) Ceph分布式存储实战 Ceph中国社区著 ISBN: 978-7-111-55358-8 本书纸版由机械工业出版社于2016年出版,电子版由华章分社(北京华章图文信息有限公司,北京奥维博世图书发行有限公司)全球范围内制作与发行。 版权所有,侵权必究 客服热线:+86-10-68995265 客服信箱:service@bbbvip.com 官方网址:www.hzmedia.com.cn 第2章 存储基石RADOS 2.1 Ceph功能模块与RADOS 2.2 RADOS架构 2.2.1 Monitor介绍 2.2.2 Ceph OSD简介 2.3 RADOS与LIBRADOS 2.4 本章小结 第3章 智能分布CRUSH 3.1 引言 3.2 CRUSH基本原理 3.2.1 Object与PG 3.2.2 PG与OSD 30 码力 | - 页 | 13.97 MB | 1 年前3
Curve 分布式存储设计## Curve 分布式存储设计 程义 — Curve Maintainer   Curve块存储 和 Curve文件存储  第四 Curve社区 ## Curve的由来 1. 代码复杂/代码量大 2. 运维难度高 3. 无法满足高的性能需求 ## Curve的设计目标 1. Curve云原生软件定义存储 2. Curve块存储 3. Curve文件存储 4. 高性能,易运维,云原生  ## Curve块存储 ## 研究现状 1. 高性能分布式共享数据库场景 2. Curve块存储提供底层分布式共享存储 3. Polardb for0 码力 | 20 页 | 4.13 MB | 1 年前3
Kubernetes日志平台建设最佳实践-元乙## Kubernetes日志平台建设最佳实践 ## 张城-元乙 阿里巴巴 # TGO鲲鹏会 # 汇聚全球科技领导者的高端社群 全球12大城市 850+高端科技领导者 使命 Mission 为社会输送更多优秀的 科技领导者 ## 愿景 Vision 构建全球领先的有技术背景 优秀人才的学习成长平台  单机 Debug Grep 2013 动态置备持久性卷声明存储类FlexVolumeContainer Storage Interface (CSI)持久性卷Ceph分布式存储RADOSCRUSH纠删码Curve块存储Curve文件存储高性能云原生Kubernetes日志平台DaemonSetSidecar日志采集与存储架构演变资源优化异构数据知识沉淀运维闭环实时分析













