Redis 多数据中心双向同步 祝辰 • 携程框架架构部门 • 资深研发工程师 • 专注于 Redis 高可用系统的 研发工作 • 对分布式存储系统有所涉猎 讲师介绍 祝辰 1 开篇 2 3 4 5 目 录 CONTENTS 携程的Redis架构 分布式理论 双向/多向同步的问题 CRDT 19 世纪的通讯 “At 12:30 am on April 4th 天 • 棕色的区域需要 40 天以上 的时间 21 世纪的通讯 同样的一张地图 在今天, 仅仅需要毫秒级 别的时间, 一条消息可以 被全世界共享起来 互联网的规模也从单独 一个数据中心的部署方 式转变为多数据中心, 甚 至是跨区域的部署模式 多区域部署 Serverless 分布式存储 Redis 内存数 据库 支持多种 数据结构 支持主 从架构 缓存服务 分布式锁 消息队列 并解决因此可能出现的数据一致性问题. 需求的产生 DRC 的概念是在近年来, 云计算兴起, 多站点部署的场景下, 延伸出来对于数 据共享的一个需求. 多站点部署的架构, 对于单元化部署的 应用来讲, 跨数据中心的数据访问一直 是一个最大的痛点. 目前很多用户 • 抑或是采取了同一份写入到两个站 点的数据库 • 抑或是跨站点写入数据库同时同步 回来(例如 AWS 的AURORA) 这两种方式都没有从根本上解决问题

携程 Redis 多数据中心 双向同步实践 祝辰 祝辰 目前任职携程框架架构部门资深 研发工程师 负责框架Redis团队的开发工作 目录 1 业务背景 2 3 双向同步 4 CRDT 高可用 开篇 & 背景 Redis 在携程的规模 25,000,0 00 QPS 2000+Clust er 200TB + 跨公网同步 SHANGHAI CANADA

VMware, Inc. 3 目录 关于本书 5 VMware Infrastructure 简介 9 VI 数据中心的物理拓扑 12 计算服务器 12 存储网络和阵列 13 IP 网络 13 VirtualCenter Server 13 桌面客户端 13 虚拟数据中心架构 14 主机、群集和资源池 15 VMware Infrastructure 分布式服务 16 网络架构 19 存储架构 存储架构 21 VMware Consolidated Backup 23 VirtualCenter Server 24 VirtualCenter 和 ESX Server 之间的通信 28 访问虚拟数据中心 29 第一次使用 29 浏览器访问 30 更多内容 31 词汇 33 VMware Infrastructure 简介 4 VMware, Inc. VMware, Inc. 5 术语 “ESX Server 3.x”。 目标读者 本手册面向需要熟悉 VMware Infrastructure 的组件和功能的任何人。本手册中信息的 目标读者为经验丰富的、熟悉虚拟机技术和数据中心操作的 Windows 或 Linux 系统管 理员。 关于本书 VMware Infrastructure 简介 6 VMware, Inc. 文档反馈 VMware 欢迎您提出

的虚拟化产品，发 现这些产品与 VMware 产品相比，在功能和性能方面都显得不足。” — David Greer，HelioVolt Corporation 信息服务主管 虚拟化管理程序是虚拟化数据中心的核心基础。与很多刚刚涉足虚拟化领域的供应商在市场上积极宣 传不同，虚拟化管理程序不是商品。各种虚拟化管理程序之间存在着根本差异，它们将影响您的虚拟 化体验。选择哪种虚拟化管理程序，将决定您是否能够成功地将虚拟化引入您的 是最可靠且功能最强大的 虚拟化平台。VMware ESX 于 2001 年推出，现在已发展到第三代，已经在全世界数以万计的客户 部署上得到验证。其他虚拟化管理程序仍然是“1.0 版”产品，既没有在生产数据中心中进行验证， 也缺乏提供客户亟需的可靠性、可扩展性和性能所需的核心功能。 因此，虽然其他供应商试图在以下方面跟上 VMware 的步伐，但是 VMware 即将推出的版本会将 ESX 提升为 Hyper-V、Xen 和 KVM：代码太多 就虚拟化而言，越小越好。虚拟化占用的空间越小，外部威胁的攻击面就越小，因此可以极大地降低 所需的补丁程序的数量，而这不仅可以提高产品的可靠性，而且还能提高数据中心的稳定性。 VMware 一贯致力于提高虚拟化可靠性，开发了业界最小的虚拟化管理程序 VMware ESXi，这同时 也是第一个完整的 x86/x64 虚拟化体系结构，无需依赖通用操作系统。VMware

也称为 control plane 机 器。 Compute 节 节点 点 负责执行集群用户工作负载的节点。也称为 worker 节点。 断开 断开连 连接的安装 接的安装 在有些情况下，数据中心的部分环境可能无法访问互联网，甚至无法通过代理服务器访问。您仍可在 这些环境中安装 OpenShift Container Platform，但需要先下载所需的软件和镜像，并将其保存在离线 环境中。 Cloud（VMC） 裸机或其他平台基础架构 您可以将 OpenShift Container Platform 4 集群部署到内部硬件环境，或部署到云托管服务中，但集群中 的所有机器都必须位于相同的数据中心或云托管服务中。 如果要使用 OpenShift Container Platform，但不想自行管理集群，则有几个受管服务选项。如果要完全 由红帽管理的集群，可以使用 OpenShift Dedicated OpenShift Container Platform 前，您必须配置并注册您的域，为安装创建 Resource Access Management(RAM)用户，并查看支持的 Alibaba Cloud 数据中心区域和区。 5.1.3. 注册和配置 Alibaba Cloud 域 要安装 OpenShift Container Platform，您使用的 Alibaba Cloud 帐户必须在帐户中有一个专用的公共托

在客户端代理上设置此选项。默认情况下，-adverti e通告地址。但是，在某些情况下，所有数据中心的所有成员都不能位于同一物理或虚拟网络上，尤 是混合云和私有数据中心的混合设置。此标志使服务器节点通过公共网络为WAN进行闲聊，同时使 专用VLAN互相闲聊及其客户端代理，并且如果远程数据中心是远程数据中心，则允许从远程数据中 访问此地址时访问客户端代理。配置了translate_wan_addrs。在Consul Raft领导者自行选举。重要的是只有 个节点处于这种模式; 否则，无法保证一致性，因为多个节点能够自我选择。在引导群集后，建议不 使用此标志。 ● -bootstrap-expect：此标志提供数据中心中预期的服务器数。不应提供此值，或者该值必须与群 中的其他服务器一致。提供后，Consul将等待指定数量的服务器可用，然后引导群集。这允许自动选 初始领导者。这不能与传统-bootstrap标志一起使用。此标志需要-server模式。 同一 户执行。在Windows上，您应确保该目录具有适当的权限，因为这些权限将被继承。 ● datacenter：此标志控制代理程序运行的数据中心。如果未提供，则默认为“dc1”。Consul拥有 多个数据中心的一流支持，但它依赖于正确的配置。同一数据中心中的节点应位于单个LAN上。 ● dev：启用开发服务器模式。这对于快速启动Consul代理并关闭所有持久性选项非常有用，可以启 内存服务器

--log-level=info 2 OpenShift Container Platform 4.6 在 在 vSphere 上安装 上安装 18 e. 选择要连接的 vCenter 实例中的数据中心。 f. 选择要使用的默认 vCenter 数据存储。 注意 注意 数据存储和集群名称不能超过 60 个字符，因此请确保组合字符串长度不超过 60 个字符的限制。 g. 选择要在其中安装 vCenter vCenter 实例的名称。 iv. 指定创建集群所需的权限的 vCenter 帐户的用户名和密码。 安装程序连接到您的 vCenter 实例。 v. 选择要连接的 vCenter 实例中的数据中心。 vi. 选择要使用的默认 vCenter 数据存储。 vii. 选择要在其中安装 vCenter 集群的 OpenShift Container Platform 集群。安装程序使用 # acenter 要在 vCenter 实例中使用的数据中心的 名称。 字符串 platform.vsphere.def aultDatastore 用于置备卷的默认数据存储名称。 字符串 platform.vsphere.fold er 可选。安装程序创建虚拟机的现有文件 夹的绝对路径。如果没有提供这个值， 安装程序会创建一个文件夹，它的名称 是数据中心虚拟机文件夹中的基础架构 ID。 字符串，如

也称为 control plane 机 器。 Compute 节 节点 点 负责执行集群用户工作负载的节点。也称为 worker 节点。 断开 断开连 连接的安装 接的安装 在有些情况下，数据中心的部分环境可能无法访问互联网，甚至无法通过代理服务器访问。您仍可在 这些环境中安装 OpenShift Container Platform，但需要先下载所需的软件和镜像，并将其保存在离线 环境中。 vSphere 裸机或其他平台基础架构 您可以将 OpenShift Container Platform 4 集群部署到内部硬件环境，或部署到云托管服务中，但集群中 的所有机器都必须位于相同的数据中心或云托管服务中。 如果要使用 OpenShift Container Platform，但不想自行管理集群，则有几个受管服务选项。如果要完全 由红帽管理的集群，可以使用 OpenShift Dedicated OpenShift Container Platform 前，您必须配置并注册您的域，为安装创建 Resource Access Management(RAM)用户，并查看支持的 Alibaba Cloud 数据中心区域和区。 5.1.3. 注册和配置 Alibaba Cloud 域 要安装 OpenShift Container Platform，您使用的 Alibaba Cloud 帐户必须在帐户中有一个专用的公共托

日本,印度 三方合作伙伴 6-7家 系统组件设计 图示 系统整体架构I 系统整体架构II 对架构设计的影响I -- 数据中心的设计 数据中心早期架构 数据中心碰到的问题 • 跨国网络引起的技术问题 • 来自法务的问题 • 来自安全部门的问题 数据中心最终方案 用户访问量对应的web架构 用户访问量 服务器架构 百万以下 单台或多台的简单架构,可以简单通过升级服务器 配置支持更多用户 增加Nginx(反向代理)或DNS负载均衡,redis内存 cache,数据库(Mysql)多台(数据在一个数据中心) 千万到亿 增加Web服务器内存缓存,集群,IP负载均衡,基于内 容请求分发,Mysql优化(如减少写,2/8原则),数据在 一个数据中心 亿以上 增加异地部署(建议核心点集中,其它节点分散开),较 难分割或核心数据在同一数据中心,其它分散到不 同的节点 对架构设计的影响II -- 数据库表设计 数据库表早期设计

mysqlsh,CLONE,... • 在线添加/删除节点/集群 • 路由器集成， 拓扑结构发生变化时无需重新配置 应用程序 M ySQL InnoDB ClusterSet – 3 个数据中心 Copyright @ 2021 Oracle and/or its affiliates. 14 / 55 MySQL InnoDB ClusterSet -并非每个集群都必须有 3 Oracle and/or its affiliates. 数据中心崩溃/分区 43 / 55 故障转移到另一个集群 • 一个命令使主集群失效并提升新的主集群： forcePrimaryCluster（） • 将重新配置其它副本集群复制 脑裂警告 • 无法连接到其他集群的本地路由器将无法了解新 拓扑 • 如果数据中心被网络分区， 它将继续作为主数据 库运行 Copyright affiliates. 44 / 55 数据中心崩溃/分区- forcePrimaryCluster() 故障转移到另一个集群 • 一个命令使主集群失效并提升新的主集群： forcePrimaryCluster（） • 将重新配置其它副本集群复制 脑裂警告 • 无法连接到其他集群的本地路由器将无法了解新 拓扑 • 如果数据中心被网络分区， 它将继续作为主数据 库运行 Copyright