Why Serverless + Container？ Container Serverless • 执行部署一致性 • 快速交付 • 敏捷化 • 免运维 • 高弹性 • 按需付费 A short history of Serverless Container 产品名称 厂商 发布日期 Kubernetes API支持 Hyper.sh 2016.11 Serverless Kubernetes 2018.5 Y Serverless Kubernetes容器服务 - 按照应用使用资源付费 - 无需管理服务器节点 容器调度与编排 经典Kubernetes容器服务 - 按照集群节点数量付费 ECS Pod Pod Pod Pod ECS Pod Pod Pod Pod ECS Pod Pod Pod kubectl scale deployment scale in seconds “unlimited” capacity 按需付费 On demand pricing • 降低服务运行成本：无需再为闲置的计算资源付费（No Cost when Idle） • 灵活选择容器资源规格（Fine-grained cost model） • 提高资源利用率 CPU

行标准化建 模、使其跟随需求和技术的变化和发展灵活扩展升级；对 PaaS 服务、 算力资源、Kubernetes 资源等基础设施进行统一抽象封装；面对多 样化平台能力需求，平台 UI 交互层可按需启用、模块化管理，提供 良好的用户体验等。产业落地方面，目前，阿里云、腾讯云等均积 极落地平台工程，通过平台工程优化开发者体验、提升云应用的研 发效能，并将平台能力赋能金融等行业，满足多场景规模化的研发 式获 取多样性算力资源。 调度方面，云计算编排能力不断升级，使算力资源跨区域跨架 构调度成为可能。一是云计算资源池化技术为物理资源池提供算力 规模弹性空间，支撑算力调度模式由“按量”发展为“按需”。传统 云计算白皮书（2023 年） 29 算力调度模式，多以算力规格作为调度内容。云计算资源池化技术 实现算力资源根据用户需求动态分配，充分满足用户多样算力使用 场景。二是算力资源使用时，调度要素由“单一类型”走向“复合 之外， 提供调度、安全、连接等能力的技术提供商也将参与进算力交易产 业链中，为算力交易带来全新业态。 提供方式方面，编排调度技术成熟促进计费模式走向“后付费”。 以往云服务交易方式多采用为使用者提供指定规格计算资源，使用 者先付费购买，后进行使用，在此模式之下，由于资源使用者对云 计算了解程度、使用程度参差不齐，易出现所购资源利用不充分， 闲置资源不能及时释放、调度等问题，从服务质量方面来看，易导

集群运维 集群升级 集群伸缩 集群备份 应⽤用商店 开源的轻量量级 Kubernetes 发⾏行行版 KubeOperator 的技术优势 按需创建 ⼀一键创建和部署 K8S 集群 按需伸缩 快速伸缩 K8S 集群， 提升资源使⽤用效率 按需修补 快速升级 K8S 集群，与社区版本同步 应⽤用商店 快速在 K8S 中部署和管理理 应⽤用程序 Multi-AZ ⽀支持 Master 发⾏行行版； • 基于 Apache v2.0 开源许可协议免费下载； • 助⼒力力企业规划、部署和运营⽣生产级别的 Kubernetes 集群； • ⽀支持 Kubernetes 集群按需伸缩和按需修补。 X-Pack 增强包 + 原⼚厂企业级⽀支持服务 KubeOperator 开源容器器平台功能列列表 Day 0 规划 集群模式 1 个 Master 节点 n 个 Worker

• 无需购买和安装机器 • 无需管理服务器 • 无需升级和更新OS • 快速部署和更新应用 • 快速发布 • “无限”容量 • 秒级弹性 • 更好的扩展性 • 更好的灵活性 • 按需创建 • 无资源闲置 Serverless容器 敏捷开发 极致弹性 成本优化 容器 Build once, Run anywhere 没有语言和库的限制 连接Kubernetes生态 连接Cloud Run Containers without Managing Infrastructure • 容器成为云上的一等公民 • 安全隔离的容器运行环境 • 支持CPU 0.25c – 64c，GPU，按需创建按秒收费 • Spot Instance：极大降低计算成本 • Startup time: ~10s • 镜像缓存：无需从远端拉取镜像 • 与ECS并池：大规模资源池，弹性能力保障 • Pod ECS OS ASK: Serverless Kubernetes • Nodeless：简单易用，无节点管理，运维成本低 • 极致弹性: 30s 500 pod • 成本优化：按需创建，支持spot和预留实例劵 • Kubernetes兼容性： deployment/statfulset/job/service/ingress/CRD • ALB Ingress: 基于SLB

⼀个节点的独占访问权限来保证资源隔离，保证不会有其它 Pod 来分享节点资源。 把可能会相互影响的服务的 Pod 分散在不同的主机上。 说明：应⽤⾮亲和性调度的设置⽅式与亲和性调度相同，但相同的调度规则代表的意思不同，请按需进 ⾏选择。 设置调度容忍（Toleration）。与节点设置的污点（Taints）配套使⽤，且Pod的 Toleration声明中的key和effect需要与Taint的设置保持⼀致。详情参⻅节点管理， ⼀个节点的独占访问权限来保证资源隔离，保证不会有其它 Pod 来分享节点资源。 41 把可能会相互影响的服务的 Pod 分散在不同的主机上。 说明：应⽤⾮亲和性调度的设置⽅式与亲和性调度相同，但相同的调度规则代表的意思不同，请按需进 ⾏选择。 设置调度容忍（Toleration）。与节点设置的污点（Taints）配套使⽤，且Pod的 Toleration声明中的key和effect需要与Taint的设置保持⼀致。详情参⻅节点管理， 是字⺟或数字 删除命名空间 若命名空间下有资源，不允许删除命名空间 命名空间管理 1.简介 2.操作说明 弹性伸缩 65 ⾸云容器服务的⾃动伸缩能⼒是通过节点⾃动伸缩组件实现的，可以按需弹出实例，⽀持多实例规格、多 种伸缩模式，满⾜不同的节点伸缩场景。 节点⾃动伸缩组件是基于kubernetes资源调度的分配情况进⾏伸缩判断的，节点中资源的分配是通过资源 请求（Request

AppStore 安卓市场 （华为） 发布 发布 测试管理 TestMan 23 案例：容器服务助力腾科教育，构建新型实验平台，提升课程运营效率 实验环境配置复 杂，基础运维工作 繁多 为闲置资源付费，无 法做到真正Pay as Use 实验效果评估粗 糙，实验数据易丢 失。 挑战 基于云容器引擎的解决方案 实验环境秒级恢 复，无需感知底层 自动评估实验效 果、保存实验数据 充分利用资源，平

全链路服务全部属 • 注册中心独立部署 流量隔离 • 多域名，泛域名解析匹配 数据 • 全量同步线上脱敏数据 • Mysql redis ES 全搭建 • 数据全部物理隔离 发布平台 • 按需分支发布 • 多环境完全并行 • 一期方案的问题与挑战 1 2 3 多环境资源“假”隔离 Namespace隔离，共享资源 数据依赖成本高 所有存储都是独立搭建的 集群规模大，运维工作量大

目标一：一个面向用户，应用为中心 CI/CD 流水线 应用 扩容策略 发布策略 分批策略 访问控制 流量配置 Pod Deployment Service Node Custom Resource 业务运维 业务研发 按需绑定 关键词：用户友好，应用层语义和抽象 平台工程师 Controller 目标二：一个高可扩展的应用管理平台 关键词：可插拔，可扩展，模块化，没有抽象程度锁定 应用 Deployment

维 平 台 Kubernetes 200 最大不可用数面向终态的应用管理 • 支持终态副本数保持 • 支持容器原地升级 • 保持 IP、卷 • 支持并发更新、容错暂停 • 支持镜像预热、按需下载镜像格式面向终态的风险控制 • 运维决策分散 - controllers - operators - rescheduler - kubelet Admission Kube-apiserver

ndots:2 --dns-opt \ timeout:2 --dns-opt attempts:2 " 32 架构 - 网络 (2) SACC2017 • 集中生成和存放配置文件，按需导入Pod。 • 支持Pod在各个worker之间的迁移。 • K8s的PV和PVC可以确保每个Fabric的节点只能看到所需要的文件。 33 架构 – 共享存储 SACC2017