Kubernetes Operator 实践 —— MySQL 容器化 刘林 搜狗资深工程师 关于我 搜狗商业平台研发部 资深开发工程师 l 主要从事商业平台研发工作，在构建高性能、高可用大规模 系统方面有丰富的实践经验 l 目前专注于云计算、DevOps 等相关领域，负责搜狗商业云 平台的设计研发工作 刘林 1. 背景介绍 2. Operator 的基本原理 3. MySQL MySQL Operator 设计实践 4. 小结 搜狗商业平台 技术体系广 服务多迭代快 搜狗产品矩阵 商业平台 信息流广告 搜索广告 品牌广告 代理商 广告主 技术体系 CRM 广告平台 物料展现 审核平台 大数据平台 基础架构 Golang C++ JavaScript Java Python 质量要求高 业务响应快 故障恢复快 Cluster1 有状态服务容器化 1. 背景介绍 2. Operator 的基本原理 3. MySQL Operator 设计实践 4. 小结 无状态服务 服务调度 有状态服务集群 服务调度 状态保存 集群管理 有状态服务 服务调度 状态保存 带来的新挑战 服务调度 状态存储 集群管理 成员管理 扩缩容 故障迁移 高可用 CoreOS 提出了 operator Deployment StatefulSet

TiDB Operator: Design & Implemention Presented by Yecheng Fu (@cofyc) PingCAP.com Agenda ● TiDB Operator 简介 ● 扩展 Kubernetes 的几种方式 ● TiDB Operator 实现 TiDB Operator 是什么 PingCAP.com Cloud Native TiDB Operator TiDB PingCAP.com Kubernetes Pattern - Declarative Model - 用户描述自己的期望，提交给 Kubernetes API Server - Kubernetes 根据用户的期望以及当前的状态，协调各方达成用户的期望 PingCAP.com - Kubernetes has pod, deployment Kubernetes has pod, deployment, statefulset, etc. - But it does not know how to operate TiDB cluster… - Until we implemented TiDB Operator Kubernetes Pattern - Declarative Model PingCAP.com Operator Pattern

tidb-operator Open Source Conference 2022 Online/Spring 36 tidb-operator は Kubernetes 上で動くコントローラー tiup で使用する topology.yaml と同じような内容を Kubernetes の カスタムリソース TidbCluster で定義してあげる tidb-operator は定義された通りに 能 すごいぞ tidb-operator ? Open Source Conference 2022 Online/Spring 37 https://docs.pingcap.com/tidb-in-kubernetes/stable/architecture Kubernetes のカスタムリソースとオペレーターの関係 すごいぞ tidb-operator Open Source Conference 2022 Online/Spring 38 tiup と tidb-operator $ tiup cluster deploy tidb-test v5.2.2 ./topology.yaml tiup $ kubectl apply -f tidb_cluster.yaml tidb-operator tiup cluster deploy 相当のことは kubectl apply

Greenplum on Kubernetes 容器化MPP数据库 AGENDA 云数据库背景 云数据库实现方案 Greenplum on Kubernetes Greenplum Operator 总结 云数据库背景 云数据库背景 ● 资源变化 ○ 本地资源 → 云 ○ 静态资源 → 弹性需求 ● 数据变化 ○ 内部数据 → 多数据源 ○ 数据规模 → 不易预测 ○ 数据格式 Kubernetes 计算资源 Pod ● Pod ○ 计算任务 → 容器 → Pod ○ 资源分配：CPU，内存，磁盘 ○ 资源调度：Pod → Node ● Pod管理 ○ 无状态计算资源组：Deployment ○ 有状态计算资源组：StatefulSet ● Pod持久存储 ○ 通过PVC申请PV存储资源 ● StatefulSet ○ Pod网络地址不变 ○ Pod与PV映射关系不变 Kubernetes Network Interconnect Standby Pod Master Pod Segment Pod Segment Instance Segment Pod Segment Instance Segment Pod Segment Instance Segment Pod Segment Instance Master StatefulSet (2)

© Copyright 2018 Pivotal Software, Inc. All rights Reserved. Kubernetes Operator for Massively Parallel Postgres Goutam Tadi (@goutamtadi) Senior Software Engineer, Pivotal Software Inc Email: gp-kubernetes@pivotal Agenda ● Intro to Greenplum ● Kubernetes 101 ● Greenplum for Kubernetes ○ Components ■ Greenplum Operator ■ Greenplum Cluster ● Demo Massively Parallel Postgres Greenplum Greenplum Data Platform ANALYTICAL Kubernetes Master Pod kubelet kube-proxy docker Node Pod kubelet kube-proxy docker Node Greenplum on Kubernetes 101 Kubernetes Master Pod kubelet kube-proxy docker Node Pod kubelet kube-proxy

Service Replica Service Replica Service User Config Map Common Config Map Stateful Set Pod Persistent Volume Claim Persistent Volume Per-replica Config Map Challenges running ClickHouse Transparency kube-system namespace The ClickHouse operator turns complex data warehouse configuration into a single easy-to-manage resource ClickHouse Operator ClickHouseInstallation YAML file your-favorite ClickHouse Operator Quick Start Installing and removing the ClickHouse operator [Optional] Get sample files from github repo: git clone https://github.com/Altinity/clickhouse-operator Install

Networking 4. Transparency The ClickHouse operator turns complex data warehouse configuration into a single easy-to-manage resource ClickHouse Operator ClickHouseInstallation YAML file (Apache Map Stateful Set Pod Persistent Volume Claim Persistent Volume Per-replica Config Map Altinity ClickHouse Operator Quick Start Installing the ClickHouse Operator [Optional] Get sample com/Altinity/clickhouse-operator Install the operator: kubectl apply -f clickhouse-operator-install.yaml or: kubectl apply -f https://raw.githubusercontent.com/Altinity/ clickhouse-operator/master/mani

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37 Vitess Operator for Kubernetes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37 Install the Operator . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . plan represents each operator as a node in the tree. Each operator takes as input zero or more rows, and produces as output zero or more rows. This means that the output from one operator becomes the input

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49 Vitess Operator for Kubernetes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 49 Install the Operator . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . plan represents each operator as a node in the tree. Each operator takes as input zero or more rows, and produces as output zero or more rows. This means that the output from one operator becomes the input

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76 Vitess Operator for Kubernetes . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 76 Install the Operator . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . plan represents each operator as a node in the tree. Each operator takes as input zero or more rows, and produces as output zero or more rows. This means that the output from one operator becomes the input