搜狗资深工程师 关于我 搜狗商业平台研发部 资深开发工程师 l 主要从事商业平台研发工作，在构建高性能、高可用大规模 系统方面有丰富的实践经验 l 目前专注于云计算、DevOps 等相关领域，负责搜狗商业云 平台的设计研发工作 刘林 1. 背景介绍 2. Operator 的基本原理 3. MySQL Operator 设计实践 4. 小结 搜狗商业平台 技术体系广 服务多迭代快 服务多迭代快 搜狗产品矩阵 商业平台 信息流广告 搜索广告 品牌广告 代理商 广告主 技术体系 CRM 广告平台 物料展现 审核平台 大数据平台 基础架构 Golang C++ JavaScript Java Python 质量要求高 业务响应快 故障恢复快 Cluster1 搜狗商业平台业务系统 搜索推广 信息流 品牌 BizNginx （Load Balancer） 布 授 权 监 控 IaaS Registry SOA服务框架 DevOps 测 试 账户 搜狗商业平台基础平台 物料 计费 管理界面 项目 管理 CI&&CD 统一配 置中心 Cluster2 Node Node Node Node 商业云平台 BizCloud • 弹性伸缩能力不足 • 机器资源利用率不高 • 服务管理复杂 问题 有状态服务的需求越来越多

容器调度 资源池 容器及实例创建 应用交付 资源申请 IO类型 配置 为了保证MySQL的高可用，需要在Docker容器分配时如何保障主从不在同一宿主机上。我们通过自研 Docker容器调度平台管理所有宿主机和容器,自定义Docker容器的分配算法。实现了MySQL的高密度,隔离 化,高可用化部署。 调度规则： 1.同一复制集群的实例在不同主机上。 2.优先分配CPU、内存、磁盘空间资源最空闲的主机。 •Scheduler调度：选择最优节点创建容器。 •Agent：用于连接监控模块，上报系统运行状况。 GRPC API Schedule Filter Strategy Docker API Manger 分布式监控 Node Docker Docker Docker Docker Node Docker Docker Docker Docker 集群 报警 • 为了保证容器内的MySQ 这种方式的优势是IO性能最佳，随之而来的缺点是磁盘容量不好估算，有可能在使用了一段时间后出现磁 盘空间不足的问题，这个时候则会启动迁移扩容的流程。 已经在和提供高密度IO分布式存储解决方案厂商接触，计划测试平台接入分布式存储的方案。 磁盘挂载 3301 3302 3303 3304 3305 宿主机磁盘 集群扩容 本地CPU、 memory、disk 是否满足 扩容 原地扩容

版权所有 2015，Oracle 和/或其附属公司。保留所有权利。 为何进行复制？ •将数据库从“主服务器”复制到“从服务器” – 数据的冗余副本奠定了高可用性的基础 – 通过在复制场中进行分布式查询来扩展 主 从 Web/应用服务器 写入和读取 读取 4/16/2017 版权所有 2015，Oracle 和/或其附属公司。保留所有权利。 9 •异步 – MySQL 默认设置 和/或其附属公司。保留所有权利。 MySQL Cluster 数据节点 Master –Slave Replication •内存优化表 – 持久 – 可与基于磁盘的表混合使用 •大量并发 OLTP •通过分布式联接支持分析 •通过并行表扫描支持非索引搜索 •MySQL Cluster 7.4 DBT2 FlexAsych – 2 亿次 NoSQL 读取/秒（32 个节点） 4/16/2017 31 性能 2 亿次 NoSQL 读取/秒 版权所有 2015，Oracle 和/或其附属公司。保留所有权利。 •内存优化表 – 持久 – 可与基于磁盘的表混合使用 •大量并发 OLTP •通过分布式联接支持分析 •通过并行表扫描支持非索引搜索 •MySQL Cluster 7.4 DBT2 BM – 250 万条 SQL 语句/秒 4/16/2017 32 MySQL Cluster 7

将源自多个数据库节点并发无序的消息进行全局排序。目的 是保证每个节点执行的事务完全相同，顺序也相同。 • 所有的消息在各个节点处理动作完全相同，如果某个消息在 某个节点被丢弃（不处理 ，在其他节点也将被丢弃。 • 多数派原则，一个消息被超过半数的节点接收&”赞成”，则这 个消息将在全局生效，所有的节点都得执行（处理 这个消 息。 • Paxos协议只实现消息全局排序，不处理冲突。 Paxos��:! • 冲突检查是在执行消息(execute_msg)时发生.前提：消息已经被多数节 点接受。 • 所指的消息表示的是一个事务类型的消息，内容包含事务产生的binlog 以及冲突检测时使用到主键以及事务的数据快照版本(gtid_set) • 比较规则。将事务所涉及的主键以及数据版本信息(gtid_set)跟write set 里面的信息进行比较:

联机模式更改可满足不断变化的业务需求。  Performance Schema 可监视各个用户和应用的性能及资源占用情况。  SQL 和 NoSQL 访问有助于执行复杂的查询以及快速完成简单快速的键值操作。  平台独立性让您可以灵活地在多个操作系统上开展开发和部署工作。  使用 MySQL 作为 Hadoop 和 Cassandra 的业务数据存储，支持大数据互操作性。 MySQL 企业级备份 此外，DBA 还可以跟踪配置随时 间变化的详细信息，轻松地跟踪配置变更。 MySQL Workbench MySQL Workbench 是一个统一的可视化开发和管理平台，该平台提供了许多高级工具，可支持数 据库建模和设计、查询开发和测试、服务器配置和监视、用户和安全管理、备份和恢复自动化、 审计数据检查以及向导驱动的数据库迁移。 MySQL Workbench