基于Consul的多Beats接入管控与多ES搜索编排
1 梁成 腾讯云, barryliang@tencent.com 基于Consul的多Beats接入 管控与多ES搜索编排 2 拥抱开源、释放云原生的力量 • 背景与挑战 • 多Beats/Logstash接入管控 • 多ES搜索编排系统 • 日志AIOps探索 3 背景与挑战 产品数量 人员规模 主机规模 100+ 1000 + 10000 + 如何降低日志接入门槛 如何降低日志接入门槛 如何保证日志实时上报 如何保障日志采集不影响业务 如何做配置标准化 如何帮助业务快速排障 如何提供方便便捷的性能分析 调优能力 … 4 多Beats/Logstash接入 管控 提供多产品接入管理,多beats标准 化、界面化、自动化的日志接入方案 5 案例:1000+业务10000+台 主机如何快速实现日志接入? 业务规模 1000+业务、 10000+业务主机、每天百T日志增量 这些进程的 cpu/内存等资源 Agent Consul Master 获取master列表 向master发起Agent注册逻辑 返回agent id 增删改策略 获取策略列表 启动管控收集进程 watch配置变化 9 Agent运行时 10 日志接入 购买云ES 录入ES 创建主机组 添加主机 配置日志主题 选择主机组 日志配置 权限管理 资源设置 提交策略0 码力 | 23 页 | 6.65 MB | 1 年前3FISCO BCOS 2.7.2 中文文档
个 个区 区 区块 块 块链 链 链应 应 应用 用 用 33 5 关 关 关键 键 键概 概 概念 念 念 59 6 网 网 网络 络 络搭 搭 搭建 建 建 67 7 配 配 配置 置 置管 管 管理 理 理 131 8 网 网 网络 络 络维 维 维护 护 护 177 9 创 创 创建 建 建和 和 和使 使 使用 用 用账 账 账户 户 户 205 10 开 开 开发 发 发和 和 15 开 开 开发 发 发部 部 部署 署 署工 工 工具 具 具(build_chain.sh) 535 16 命 命 命令 令 令行 行 行交 交 交互 互 互控 控 控制 制 制台 台 台 545 17 WeBASE管 管 管理 理 理平 平 平台 台 台 635 18 区 区 区块 块 块链 链 链浏 浏 浏览 览 览器 器 器 639 19 运 运 运维 维 维部 部 部署 署 署工 白 白名 名 名单 单 单机 机 机制 制 制:每个群组仅可接收相应群组的消息,保证群组间网络通信的隔离性;CA黑名单机 制可及时与作恶节点断开网络连接,保障了系统安全。 • 权 权 权限 限 限管 管 管理 理 理机 机 机制 制 制:基于分布式存储权限控制机制,灵活、细粒度地控制外部账户部署合约和创建、 插入、删除和更新用户表的权限。 • 支 支 支持 持 持国 国 国密 密 密算 算 算法0 码力 | 1422 页 | 91.91 MB | 1 年前3FISCO BCOS 3.0.0-rc2 中文文档
个 个区 区 区块 块 块链 链 链应 应 应用 用 用 33 5 关 关 关键 键 键概 概 概念 念 念 57 6 网 网 网络 络 络搭 搭 搭建 建 建 65 7 配 配 配置 置 置管 管 管理 理 理 135 8 网 网 网络 络 络维 维 维护 护 护 181 9 创 创 创建 建 建和 和 和使 使 使用 用 用账 账 账户 户 户 211 10 开 开 开发 发 发和 和 15 开 开 开发 发 发部 部 部署 署 署工 工 工具 具 具(build_chain.sh) 547 16 命 命 命令 令 令行 行 行交 交 交互 互 互控 控 控制 制 制台 台 台 557 17 WeBASE管 管 管理 理 理平 平 平台 台 台 649 18 区 区 区块 块 块链 链 链浏 浏 浏览 览 览器 器 器 653 19 运 运 运维 维 维部 部 部署 署 署工 白 白名 名 名单 单 单机 机 机制 制 制:每个群组仅可接收相应群组的消息,保证群组间网络通信的隔离性;CA黑名单机 制可及时与作恶节点断开网络连接,保障了系统安全。 • 权 权 权限 限 限管 管 管理 理 理机 机 机制 制 制:基于分布式存储权限控制机制,灵活、细粒度地控制外部账户部署合约和创建、 插入、删除和更新用户表的权限。 • 支 支 支持 持 持国 国 国密 密 密算 算 算法0 码力 | 1459 页 | 97.77 MB | 1 年前3FISCO BCOS 2.9.0 中文文档
个 个区 区 区块 块 块链 链 链应 应 应用 用 用 33 5 关 关 关键 键 键概 概 概念 念 念 57 6 网 网 网络 络 络搭 搭 搭建 建 建 65 7 配 配 配置 置 置管 管 管理 理 理 137 8 网 网 网络 络 络维 维 维护 护 护 183 9 创 创 创建 建 建和 和 和使 使 使用 用 用账 账 账户 户 户 213 10 开 开 开发 发 发和 和 15 开 开 开发 发 发部 部 部署 署 署工 工 工具 具 具(build_chain.sh) 555 16 命 命 命令 令 令行 行 行交 交 交互 互 互控 控 控制 制 制台 台 台 567 17 WeBASE管 管 管理 理 理平 平 平台 台 台 659 18 区 区 区块 块 块链 链 链浏 浏 浏览 览 览器 器 器 663 19 运 运 运维 维 维部 部 部署 署 署工 白 白名 名 名单 单 单机 机 机制 制 制:每个群组仅可接收相应群组的消息,保证群组间网络通信的隔离性;CA黑名单机 制可及时与作恶节点断开网络连接,保障了系统安全。 • 权 权 权限 限 限管 管 管理 理 理机 机 机制 制 制:基于分布式存储权限控制机制,灵活、细粒度地控制外部账户部署合约和创建、 插入、删除和更新用户表的权限。 • 支 支 支持 持 持国 国 国密 密 密算 算 算法0 码力 | 1467 页 | 97.74 MB | 1 年前3FISCO BCOS 2.8.0 中文文档
个 个区 区 区块 块 块链 链 链应 应 应用 用 用 33 5 关 关 关键 键 键概 概 概念 念 念 59 6 网 网 网络 络 络搭 搭 搭建 建 建 67 7 配 配 配置 置 置管 管 管理 理 理 137 8 网 网 网络 络 络维 维 维护 护 护 183 9 创 创 创建 建 建和 和 和使 使 使用 用 用账 账 账户 户 户 213 10 开 开 开发 发 发和 和 15 开 开 开发 发 发部 部 部署 署 署工 工 工具 具 具(build_chain.sh) 547 16 命 命 命令 令 令行 行 行交 交 交互 互 互控 控 控制 制 制台 台 台 557 17 WeBASE管 管 管理 理 理平 平 平台 台 台 647 18 区 区 区块 块 块链 链 链浏 浏 浏览 览 览器 器 器 651 19 运 运 运维 维 维部 部 部署 署 署工 白 白名 名 名单 单 单机 机 机制 制 制:每个群组仅可接收相应群组的消息,保证群组间网络通信的隔离性;CA黑名单机 制可及时与作恶节点断开网络连接,保障了系统安全。 • 权 权 权限 限 限管 管 管理 理 理机 机 机制 制 制:基于分布式存储权限控制机制,灵活、细粒度地控制外部账户部署合约和创建、 插入、删除和更新用户表的权限。 • 支 支 支持 持 持国 国 国密 密 密算 算 算法0 码力 | 1435 页 | 92.25 MB | 1 年前3FISCO BCOS 2.7.0 中文文档
个 个区 区 区块 块 块链 链 链应 应 应用 用 用 33 5 关 关 关键 键 键概 概 概念 念 念 59 6 网 网 网络 络 络搭 搭 搭建 建 建 67 7 配 配 配置 置 置管 管 管理 理 理 137 8 网 网 网络 络 络维 维 维护 护 护 183 9 创 创 创建 建 建和 和 和使 使 使用 用 用账 账 账户 户 户 213 10 开 开 开发 发 发和 和 15 开 开 开发 发 发部 部 部署 署 署工 工 工具 具 具(build_chain.sh) 547 16 命 命 命令 令 令行 行 行交 交 交互 互 互控 控 控制 制 制台 台 台 557 17 WeBASE管 管 管理 理 理平 平 平台 台 台 647 18 区 区 区块 块 块链 链 链浏 浏 浏览 览 览器 器 器 651 19 运 运 运维 维 维部 部 部署 署 署工 白 白名 名 名单 单 单机 机 机制 制 制:每个群组仅可接收相应群组的消息,保证群组间网络通信的隔离性;CA黑名单机 制可及时与作恶节点断开网络连接,保障了系统安全。 • 权 权 权限 限 限管 管 管理 理 理机 机 机制 制 制:基于分布式存储权限控制机制,灵活、细粒度地控制外部账户部署合约和创建、 插入、删除和更新用户表的权限。 • 支 支 支持 持 持国 国 国密 密 密算 算 算法0 码力 | 1435 页 | 92.25 MB | 1 年前3FISCO BCOS 2.8.0 中文文档
个 个区 区 区块 块 块链 链 链应 应 应用 用 用 33 5 关 关 关键 键 键概 概 概念 念 念 59 6 网 网 网络 络 络搭 搭 搭建 建 建 67 7 配 配 配置 置 置管 管 管理 理 理 137 8 网 网 网络 络 络维 维 维护 护 护 183 9 创 创 创建 建 建和 和 和使 使 使用 用 用账 账 账户 户 户 213 10 开 开 开发 发 发和 和 15 开 开 开发 发 发部 部 部署 署 署工 工 工具 具 具(build_chain.sh) 547 16 命 命 命令 令 令行 行 行交 交 交互 互 互控 控 控制 制 制台 台 台 557 17 WeBASE管 管 管理 理 理平 平 平台 台 台 647 18 区 区 区块 块 块链 链 链浏 浏 浏览 览 览器 器 器 651 19 运 运 运维 维 维部 部 部署 署 署工 白 白名 名 名单 单 单机 机 机制 制 制:每个群组仅可接收相应群组的消息,保证群组间网络通信的隔离性;CA黑名单机 制可及时与作恶节点断开网络连接,保障了系统安全。 • 权 权 权限 限 限管 管 管理 理 理机 机 机制 制 制:基于分布式存储权限控制机制,灵活、细粒度地控制外部账户部署合约和创建、 插入、删除和更新用户表的权限。 • 支 支 支持 持 持国 国 国密 密 密算 算 算法0 码力 | 1435 页 | 92.25 MB | 1 年前3FISCO BCOS 2-dev 中文文档
10 开 开 开发 发 发部 部 部署 署 署工 工 工具 具 具(build_chain.sh) 449 11 命 命 命令 令 令行 行 行交 交 交互 互 互控 控 控制 制 制台 台 台 459 12 WeBASE管 管 管理 理 理平 平 平台 台 台 549 13 区 区 区块 块 块链 链 链浏 浏 浏览 览 览器 器 器 553 14 运 运 运维 维 维部 部 部署 署 署工 白 白名 名 名单 单 单机 机 机制 制 制:每个群组仅可接收相应群组的消息,保证群组间网络通信的隔离性;CA黑名单机 制可及时与作恶节点断开网络连接,保障了系统安全。 • 权 权 权限 限 限管 管 管理 理 理机 机 机制 制 制:基于分布式存储权限控制机制,灵活、细粒度地控制外部账户部署合约和创建、 插入、删除和更新用户表的权限。 • 支 支 支持 持 持国 国 国密 密 密算 算 算法 算法 法 法:支持国密加密、签名算法和国密通信协议。 • 落 落 落盘 盘 盘加 加 加密 密 密方 方 方案 案 案:支持加密节点落盘数据,保障链上数据的机密性。 • 密 密 密钥 钥 钥管 管 管理 理 理方 方 方案 案 案:在落盘加密方案的基础上,采用KeyManager服务管理节点密钥,安全性更强。 • 同 同 同态 态 态加 加 加密 密 密、 、 、群 群 群环 环 环签 签 签名0 码力 | 1324 页 | 85.58 MB | 1 年前3金融级云原生 PaaS 探索与实践
金融级云原生 PaaS 探索与实践 王成昌(晙曦)蚂蚁金服技术专家2/20 一、业务背景 二、多集群管控 三、发布运维体系 目 录 contents 目录3/20 一、业务背景 业务背景4/20 业务背景 业务架构 演进 • 容量 应用|数据库|机房 • 容灾 机房|地域5/20 业务背景 业务架构 单元化 • 高可用 • 一致性 • 可扩展 • • 业务 Mesh 化 精细化流量控制 基础组件升级 • 业务可复制 业务敏捷 SaaS 面向站点级别输出7/20 PaaS 能力 • 面向多租户多环境; • 基础资源管控; • 应用发布运维体系; • 业务实时监控,日志收集; • 机房级和地域级容灾能力; 业务背景业务背景 CAFÉ API Server Aggregation Layer 异地多活架构 (NAS/OSS/Cloud Disk/Ceph) 网络接入 (SLB/ALB) 容 器 层 跨集群管理 单元化能力 容器镜像管理 批次发布 原生资源管理 Pod伸缩管理 集群伸缩管理 变更管控 配额管理 运维原子操作 精细化调度 接入层流程调拨 应用层流量调拨 跨集群状态 分发/汇聚 数据层流量调拨 压测/灰度 流量管理 单元化 元数据管理 弹性流量管理 跨集群发布策略 多集群管理0 码力 | 20 页 | 1.71 MB | 5 月前3FISCO BCOS 2.4.0 中文文档
白 白名 名 名单 单 单机 机 机制 制 制:每个群组仅可接收相应群组的消息,保证群组间网络通信的隔离性;CA黑名单机 制可及时与作恶节点断开网络连接,保障了系统安全。 • 权 权 权限 限 限管 管 管理 理 理机 机 机制 制 制:基于分布式存储权限控制机制,灵活、细粒度地控制外部账户部署合约和创建、 插入、删除和更新用户表的权限。 • 支 支 支持 持 持国 国 国密 密 密算 算 算法 算法 法 法:支持国密加密、签名算法和国密通信协议。 • 落 落 落盘 盘 盘加 加 加密 密 密方 方 方案 案 案:支持加密节点落盘数据,保障链上数据的机密性。 • 密 密 密钥 钥 钥管 管 管理 理 理方 方 方案 案 案:在落盘加密方案的基础上,采用KeyManager服务管理节点密钥,安全性更强。 • 同 同 同态 态 态加 加 加密 密 密、 、 、群 群 群环 环 环签 签 签名 合 合 合约 约 约命 命 命名 名 名 服 服 服务 务 务、数 数 数据 据 据归 归 归档 档 档和 和 和迁 迁 迁移 移 移、合 合 合约 约 约生 生 生命 命 命周 周 周期 期 期管 管 管理 理 理等工具来提升运维效率。 • 运 运 运维 维 维部 部 部署 署 署工 工 工具 具 具: 部署、管理和监控多机构多群组联盟链的便捷工具,支持扩容节点、扩容新群组等 多种操作。 •0 码力 | 470 页 | 7.45 MB | 1 年前3
共 668 条
- 1
- 2
- 3
- 4
- 5
- 6
- 67