Kubernetes Operator 实践 —— MySQL 容器化 刘林 搜狗资深工程师 关于我 搜狗商业平台研发部 资深开发工程师 l 主要从事商业平台研发工作，在构建高性能、高可用大规模 系统方面有丰富的实践经验 l 目前专注于云计算、DevOps 等相关领域，负责搜狗商业云 平台的设计研发工作 刘林 1. 背景介绍 2. Operator 的基本原理 3. MySQL 搜索推广 信息流 品牌 BizNginx （Load Balancer） Kafka Zookeeper etcd AppEngine（Resin/Tomcat…) 统一服 务管理 Kubernetes 模板管理 自动化测试 部署中心 服务发现 灰度发布 监控中心 日志系统 PaaS SaaS 编 译 发 布 授 权 监 控 IaaS Registry SOA服务框架 Deployment StatefulSet PV/PVC StorageClass ？？ 站在 Kubernetes 的肩膀上 An Operator is an application-specific controller that extends the Kubernetes API to create, configure and manage instances of complex

基于 KUBERNETES 的 容器器 + AI 平台 如何助⼒力力企业数字化和智能化转型 xiaoqin@caicloud.io VP of R&D 提纲 构建集群与管理理资源 - 73s 视频演示 多集群和镜像仓库 多租户和旧系统的集成 运⾏行行和构建应⽤用 Rudder - 应⽤用编排技术框架 Cyclone - 持续集成与交付引擎 运⾏行行 AI 应⽤用（机器器学习） 与 Network(Neutron) • Service/Ingress 与 LBaaS(Neutron) • openstack/kuryr- kubernetes 运⾏行行和构建应⽤用 跑在 KUBERNETES 上的应⽤用 • k8s 基础资源之外 • 资源分组和整体状态 • 重⽤用 YAML 配置 • 版本化 • 启动依赖 • Helm 很棒，但是 • https://github.com/caicloud/helm-registry Rudder 技术架构 ⼀一套基于 k8s 控制器器模式的原⽣生的应⽤用管理理 和编排运⾏行行时 安全性与扩展性：从 k8s 原⽣生模式中获益 状态可读：跟踪所有 k8s 对象状态 版本化：快速从历史版本回滚 构建应⽤用 典型 CI/CD 流程 CAICLOUD/CYCLONE • 开源 •

A Day in the Life of a Data Scientist Conquer Machine Learning Lifecycle on Kubernetes Brian Redmond • Cloud Architect @ Microsoft (18 years) • Azure Global Black Belt Team • Live in Pittsburgh, PA Native Compute team • Kubernetes upstream features, Azure Kubernetes Service @ritazzhang OpenAI Scaling Kubernetes to 2,500 Nodes https://blog.openai.com/scaling-kubernetes-to-2500-nodes/ OpenAI OpenAI Scaling Kubernetes to 2,500 Nodes https://blog.openai.com/scaling-kubernetes-to-2500-nodes/ Agenda • What is the typical ML workflow and some of their shortcomings • Why DevOps? • Why Containers

是否可以扩展⾄数百PB的存储容量，数千个 物理节点以及数⼗亿个对象 扩展性 API 兼容性 性能 是否⽀持存算分离架构同时也可以兼容存算耦合 架构 应⽤对接 安全 加密 HDFS现有的⼀些解决⽅案 Namenode Federation Router Based Federation 是否需要⼀个新的⼤数据存储？ 现有的对象存储⽅案 ⽆法很好的横向扩展 HDFS的扩展性 达到了上限 Apache Ozone适⽤场景 • Apache Ozone的最近进展 • Apache Ozone的实践分享 Apache Ozone • Ozone是 ⼀个分布式的KV对象存储 可扩展⾄数⼗亿个对象，从⽽对云原⽣类的应⽤更友好 强⼀致性 与HDFS 和 S3 API兼容 可在存储密集型设备中部署进⽽极⼤的减少设备开⽀ Apache Ozone – 数据存储的路径设计 Ozone的存储路径为 AI/ML HIVE/IMPALA/SPARK KAFKA / FLINK 计算 OTHER WORKLOADS OTHER WORKLOADS X • 可⽤于承载实时和批处理的业务 • 扩展性提升 • ⽆需改变或改造业务应⽤代码 • 降低控制平⾯的节点数和服务依赖 业务价值 • 降低⼤规模集群的运维难度 • 可通过HDFS API和Distcp进⾏快速迁移 • 降低系统恢复时间

com/alibaba/RocketMQ 6 (4). 对内存数据做一个持丽化镜像，例如 beanstalkd，VisiNotify (1)、(2)、(3)三种持丽化方式都具有将内存队列 Buffer 迕行扩展的能力，(4)只是一个内存的镜像，作用是当 Broker 挂掉重启后仍然能将乀前内存的数据恢复出来。 JMS 不 CORBA Notification 规范没有明确说明如何持丽化，但是持丽化部分的性能直接决定了整个消息中间件 项目开源主页：https://github.com/alibaba/RocketMQ 11 队列集合。  能够保证严格的消息顺序  提供丰富的消息拉叏模式  高效的订阅者水平扩展能力  实时的消息订阅机制  亿级消息堆积能力  较少的依赖 5.2 RocketMQ 物理部署结构 Name Server集群 Broker Master1 Broker com/alibaba/RocketMQ 24 如图所示，5 个队列可以部署在一台机器上，也可以分别部署在 5 台丌同的机器上，収送消息通过轮询队列的方式 収送，每个队列接收平均的消息量。通过增加机器，可以水平扩展队列容量。 另外也可以自定丿方式选择収往哪个队列。 7.9 订阅消息负载均衡 TOPIC_A Consumer1 Consumer2 7-6 订阅消息 Rebalance

方案优缺点 优点：  安装配置简单，实现方便，高可用效率好，可以根据服务与系统的可用性 多方面进行切换。  可以将写 VIP 和读 VIP 分别进行设置，为读写分离做准备。  扩展不是很方便。  可以在后面添加多个从服务器，并做到负载均衡。 缺点：  在启动或者恢复后会立即替换掉定义的 sorry_server，因此如果要实现指 定条件替换或者不替换需要通过其他方式实现，比如：临时更改 3.3 方案优缺点 优点：  实现方便，高可用效率好，可以根据服务与系统的可用性多方面进行切换。  可以将写 VIP 和读 VIP 分别进行设置，为读写分离做准备。  扩展很方便。可以在后面添加多个从服务器，并做到负载均衡。 缺点：  在启动或者恢复后会立即替换掉定义的 sorry_server，因此如果要实现指 定条件替换或者不替换需要通过其他方式实现，比如：临时更改 mysql 不会启动起来，因此这对于 mysql 复制是很不利的。因此需要做好监控，发生切换以后需要手动去启动。或者 mysql 之间不使用复制，而是用共享存储或者 DRBD，这样能解决这个问题。 不方便扩展。 可能会发生脑裂问题。 4.3 方案架构图 4.4 适用场景 该方案适合只有两台数据库的情况，访问量不大，不需要实现读写分离的情况。 4.5 方案实战 4.5.1 实战环境介绍

对话框中，有三个预定义的特效级别：无、正常和扩展，您可以从其 中选择一个。 探索 Ubuntu 桌面 53 Ubuntu 桌面培训 目录 图 II.36 配 置 视 觉 效 果 如果您想要一个没有任何特效的普通桌面，选择无。如果您想要一个在性能和外观之 间平衡的桌面，选择正常。如果您想要更丰富的桌面效果，比如窗口抖动、桌面立方 体等等，选择扩展。比如说窗口抖动效果，在您等待更新完成或者邮件客户端收取邮 邮件复选框。在分钟框中指 定间隔的长度。 b. 在服务器上保留在消息存储节中，如果想在服务器上保留消息，选中在服务器 上保留信件复选框。 c. 如果您要禁用 POP3，请选中禁用所有 POP3 扩展支持。 d. 点击前进。 使用互联网 85 Ubuntu 桌面培训 目录 图 III.29 指 定 邮 件 检 查 和 储 存 选 项 6. 在发送电子邮件页，根据发送邮件消息想使用的方法指定信息。在服务器类型框中 器 • 安全 Thunderbird 提供增强的安全功能，其等同于企业级和政府级安全性能。它 提供内建的对安全多功能互联网邮件扩展(Secure/Multipurpose Internet Mail Extensions, S/MIME)安全邮件的支持。 • 扩展扩展是能够帮助您满足特定需求的强大工具。 Mozilla Thunderbird 拥有多 项特性，例如快速搜索、智能地址簿、高级消息过滤等。

Agenda • Edge scenarios/characters • KubeEdge Architecture • KubeBus • Edge metadata service • Kubernetes extension • Case study • Water utility management • Campus surveillance system Edge Scenario/Characters autonomously • Lightweight edge agent • Components • KubeBus: Edge Network • EdgeMetadataService • Kubernetes extension • Edge Controller • App Engine K8S Cluster K8S Master K8S Node1 K8S Node n KubeBus configuration (e.g. pod spec) • Reports Edge nodes status • AppEngine: Control containers Kubernetes edge extension Current Kubernetes Case Study#1 --Water utilities management • Device • Liquid level sensor • Water

表1-3-2提示语设计进阶技能子项 核心技能 子项 语境理解 深入分析任务背景和隐含需求 考虑文化、伦理和法律因素 预测可能的误解和边界情况 抽象化能力 识别通用模式，提高提示语可复用性 设计灵活、可扩展的提示语模板 创建适应不同场景的元提示语 批判性思考 客观评估AI输出，识别潜在偏见和错误 设计反事实提示语，测试AI理解深度 构建验证机制，确保AI输出的可靠性 创新思维 探索非常规的提示语方法 表1-3-3提示语设计进阶技能子项 核心技能 子项 语境理解 深入分析任务背景和隐含需求 考虑文化、伦理和法律因素 预测可能的误解和边界情况 抽象化能力 识别通用模式，提高提示语可复用性 设计灵活、可扩展的提示语模板 创建适应不同场景的元提示语 批判性思考 客观评估AI输出，识别潜在偏见和错误 设计反事实提示语，测试AI理解深度 构建验证机制，确保AI输出的可靠性 创新思维 探索非常规的提示语方法 以将这一理论应用到AI内容生成的过程中，设计相 应的提示语策略。 发散思维的提示语链设计 （基于“IDEA”框架） • Imagine（想象）：鼓励超越常规的思考 • Diverge（发散）：探索多个可能性 • Expand（扩展）：深化和拓展初始想法 • Alternate（替代）：寻找替代方案 �实战技巧：操作方法 1. 使用“假设情景”提示激发想象力 2. 应用“多角度”提示探索不同视角 3. 使用“深化”提示拓展初始想法

Pulsar 的云原⽣架构 • 企业级流存储： BookKeeper streamnative.io Pulsar： 云原⽣的架构 —— 分层 + 分⽚ • 存储和计算分离 • 节点对等 • 独⽴扩展 • 灵活扩容 • 快速容错 streamnative.io Broker 容错 ⽆感知容错 零数据catchup streamnative.io Bookie容错 应⽤⽆感知 并发可控