云+社区技术沙龙 腾讯云提高K8S集群资源利用率实践 庄鹏锐 腾讯云高级工程师 资源利用率分析 Node节点资源碎片 Pod Resource（requests）配置不合理 WorkLoad/HPA 副本数设置不合理 业务空闲时间 解决方案 Pod 压缩 Node 超卖 HPA VPA 动态 调度 碎片 处理 Pod 资源压缩 • MutatingAdmission

....................................................................................... 59 7.2 生产高可用环境................................................................................................. 小组申请 配合协作部署资源、申请 IP 地址、将资源信息同步加入到 CMDB、堡垒机、应用部署平台 等运维工具，部署配置监控代理、备份代理，挂载到负载均衡，因此造成流程链路较长，协 作沟通成本高、排期等待时间比较长的问题。 通过云管平台整合 CMDB、堡垒机等运维工具，在部署虚拟机等资源后，能够按预置 策略自动同步管理信息到运维工具，自动部署监控代理、备份代理，配置负载均衡，能够有 效 项目的生命周期的环节场景 杭州飞致云信息科技有限公司 软件用起来才有价值，才有改进的机会 16 表 2: 支持场景列表 场景 子场景 是否支持 运行环境服务 虚拟机申请部署、变更 (单机、批量、集群、定时执行、克隆) 支持 磁盘申请部署、变更，快照创建及管理 支持 虚拟机申请时指定安全组、弹性 IP、负载均衡 支持 虚拟机部署后初始化操作系统环境、部署安全基线 支持 虚拟机部署后自动部署中间件数据库

- 统一产研运管理平面 重视开发者体验，工程师不再做脏活累活 传统 DevOps 体系 Zadig 云原生 DevOps 平台 高人效 低人效 低人效 / 低质量 / 低效率 / 高成 本： 人淹没在系统的海洋里，无数平台手工切换 高人效 / 高质量 / 高效率 / 低成 本： 人在系统之外 / 上，复杂性下沉到单一平台 希望 工程师不再花时间在开发写代码之外的脏活累活，比如服务部署、找环境，服务编排等 平台运维 业务压力大，能力建设缓慢： • 大量工作花在工具链维护 • 项目间依赖复杂，环境管理难 • 交付版本依赖工单，发布风险高 • 公共资源 / 业务资源利用率低 赋能多业务：一个平台解决了多异构项目的管理和规范 团队高效协作：定义团队角色工作流模板，随时可用云上环境 价值清晰呈现：为管理者提供全视角效能数据，赋能数字决策 人工低效操作减少 80% 构建资源利用率提升 60% 全流程安全门禁：关键环节设置安全门禁，快速反馈研发改进 故障拦截率提升 1-3 倍 业务响应效率提升 3-5 倍 全流程安全建设 更多价值体现 组织 靠流程和个人，效率越来越低 • 低人效 / 低质量 / 低效率 / 高成本 • 人淹没在系统的海洋里 • 无数平台手工切换 靠系统和技术，能力长在平台上 • 高人效 / 高质量 / 高效率 / 低成本 • 人在系统之上 / 高效交互 • 复杂性下沉到单一平台

统一交付变更通道 • 异构支持 - 统一产研运管理平面 重视开发者体验，工程师不再做脏活累活 传统 DevOps 体系 Zadig 云原生 DevOps 平台 高人效 低人效 低人效/低质量/低效率/高成本： 人淹没在系统的海洋里，无数平台手工切换 高人效/高质量/高效率/低成本： 人在系统之外/上，复杂性下沉到单一平台 希望 工程师不再花时间在开发写代码之外的脏活累活，比如服务部署、找环境，服务编排等Infra的事情。 平台运维 业务压力大，能力建设缓慢： • 大量工作花在工具链维护 • 项目间依赖复杂，环境管理难 • 交付版本依赖工单，发布风险高 • 公共资源/业务资源利用率低 赋能多业务：一个平台解决了多异构项目的管理和规范 团队高效协作：定义团队角色工作流模板，随时可用云上环境 价值清晰呈现：为管理者提供全视角效能数据，赋能数字决策 人工低效操作减少 80% 构建资源利用率提升 60% 业务资源利用率提升 全流程安全门禁：关键环节设置安全门禁，快速反馈研发改进 故障拦截率提升 1-3 倍 业务响应效率提升 3-5 倍 全流程安全建设 更多价值体现 组织 靠流程和个人，效率越来越低 • 低人效/低质量/低效率/高成本 • 人淹没在系统的海洋里 • 无数平台手工切换 靠系统和技术，能力长在平台上 • 高人效/高质量/高效率/低成本 • 人在系统之上/高效交互 • 复杂性下沉到单一平台 整体人效提升 1-5

....................... 176 7.4.4 添加 Tomcat9 非集群产品...........................................................................186 7.4.5 添加 MySQL5.7 主从集群产品............................................. 一个国产商业化私有云平台，公有云平台。 云管理平台 是一种统一纳管虚拟化平台、私有云、公有云，整合对外提供在线运行环 境服务及全生命周期管理的平台。 F5 主流的硬件负载均衡产品，一直以来市场占有率非常高，直到 2021 年 3 月才被深信服超越。 华为 Agile Controller 华为硬件 SDN 产品 容器云 指 k8s 容器云管理平台 常见的容器云管理平台有 OpenShift、Rancher、时速云、灵雀云等。 成的工作在 虚拟机中都能够实现。 云磁盘 云硬盘（Elastic Volume Service）是一种为 ECS 等计算服务提供持久性 块存储的服务，通过数据冗余和缓存加速等多项技术，提供高可用性和持 久性，以及稳定的低时延性能。您可以对云硬盘做格式化、创建文件系统 等操作，并对数据做持久化存储 安全组 安全组是一种虚拟防火墙，具备有状态的数据包过滤功能，用于设置云服 务器、负载

...........................................................................................8 3.1 高可用部署架构............................................................................................... ........................................................................................12 4.1.2 高可用资源需求.......................................................................................... 12 4 ........................................................................................12 4.2.2 高可用部署.................................................................................................13

.................................................................................. 23 3.3 申请中间件数据库集群.........................................................................................26 3.4 克隆虚拟机 一个国产商业化私有云平台，公有云平台。 云管理平台 是一种统一纳管虚拟化平台、私有云、公有云，整合对外提供在 线运行环境服务及全生命周期管理的平台。 F5 主流的硬件负载均衡产品，一直以来市场占有率非常高，直到 2021 年 3 月才被深信服超越。 云账号 用于 Human 用户登录云平台 Web 控制台的账号，以及用于给 应用通过 API 操作云平台需要的授权云平台 API 账号。 项目生命周期 能够完成的工作在虚拟机中都能够实现。 云磁盘 云硬盘（Elastic Volume Service）是一种为 ECS 等计算服务提 供持久性块存储的服务，通过数据冗余和缓存加速等多项技术， 提供高可用性和持久性，以及稳定的低时延性能。您可以对云硬 盘做格式化、创建文件系统等操作，并对数据做持久化存储 安全组 安全组是一种虚拟防火墙，具备有状态的数据包过滤功能，用于 设置云服务器、负载均衡、云数据库等实例的网络访问控制，控

第 1 章 什么是 GITOPS？ GitOps 是为云原生应用程序实施持续部署的一种声明方式。您可以使用 GitOps 创建可重复进程，用于在 多集群 Kubernetes 环境间管理 OpenShift Container Platform 集群和应用程序。GitOps 以快速的速度处 理和自动化复杂部署，节省部署和发行周期期间的时间。 GitOps 工作流通过开发、测试、临时和生产环境来推送应用程序。GitOps GitOps 将基础架构和应用程序定义定义为代码。然后，它会使用此代码来管理多个工作区和集群来简化 基础架构和应用程序配置的创建过程。根据代码原则，您可以在 Git 存储库中存储集群和应用程序的配 置，然后按照 Git 工作流将这些存储库应用到所选集群中。您可以将在 Git 存储库中开发和维护软件的核 心原则应用到创建和管理集群和应用程序配置文件。 第 第 1 章 章 什么是 什么是 GITOPS？ ？ OpenShift GitOps 是一个使用 Argo CD 作为声明性 GitOps 引擎的 Operator。它启用了多集群 OpenShift 和 Kubernetes 基础架构的 GitOps 工作流。使用 Red Hat OpenShift GitOps，管理员可以在 集群和开发生命周期中一致地配置和部署基于 Kubernetes 的基础架构和应用程序。Red Hat OpenShift GitOps

安全、容量、难度、风险、数据 接入服务、逻辑服务、数据存储、文件存储 混合云过度到全量公有云 服务调用质量、用户访问质量、 服务可用率 数据上公有云 • 冷迁移+增量 •同步中心数据同步 •切换过程停写 私有组件迁移上云 • 云上部署服务集群 •自行维护和迭代 •同步中心或主备 •业务切路由切换服务 兼容公有云 • DTS自助热迁移 •增量完成后切换读写 •VIP或DNS寻址 Engine ，TKE） TKE 腾讯云(IAAS) 基础服务 计算资源（CVM） 存储资源（CBS） 网络资源 ……. Kubernetes多集群管理 Cluster1 Cluster2 ……. 应用服务管理 集群监控 集群日志 集群告警 基础设施监控 基础设施日志 基础设施告警 管理体系 业务管理 用户体系 权限 审计 安全 资源调度 服务监控 服务告警 DockerImage Docker Hub 跨地域、跨集群部署 分批灰度升级 测试、预发布、生产 容器登录 容器权限同步 PAAS服务支持 数据库 消息中间件 大数据 TKE应用适配 •基于业务维度管理 •关联CMDB •基于业务维度鉴权 业务管理 •使用Ipamd •采用弹性网卡 •实现Pod IP跨集群访问 网络 •支持CLB •支持L5/CMLB •支持VIP

GitOps Operator 创建的 control plane 工作负载，包括此命名空间中的默认 Argo CD 实例。 使用 GitOps control plane 工作负载，您可以通过在集群中创建多个隔离的 Argo CD 实例来安全地并声明 性地隔离基础架构工作负载，并完全控制 Argo CD 实例的功能。另外，您可以在多个开发人员命名空间 中以声明性方式管理这些 Argo CD 实 OpenShift GitOps 安装的 GitOps control plane 工作负载移到基础架构节点。以下是您 可以移动的 control plane 工作负载： kam deployment 集群部署 集群部署（后端服务） openshift-gitops-applicationset-controller 部署 部署 openshift-gitops-dex-server 部署 部署 op OPERATOR POD 移到基础架构节点 您可以将 GitOps Operator pod 移到基础架构节点。 先决条件 先决条件 在集群中安装了 Red Hat OpenShift GitOps Operator。 您可以使用 cluster-admin 权限访问集群。 流程 流程 1. 运行以下命令，将现有节点标记为基础架构节点： $ oc edit gitopsservice -n openshift-gitops