制，如 OIDC，来验证流水线，而不是赋予它 们直接访问机密数据的权限。实行最小权限原则去最小化个人用户和执行器账户的权限，而不是使用具有无限 访问权限的万能账户。使用一次性执行器替代重复使用执行器，来减少暴露先前任务的机密数据或在受到攻击 的运行器上运行任务的风险。将执行代理和执行器上的软件更新到最新版本。像监控你的生产软件一样去监控 你的 CI/CD 系统的完整性、保密性和可用性。 团队可以通过对依赖进行健康检查化解包幻觉风险：在选择依赖之前查看它的创建日期、下载数量、github 评论 及星标数、贡献者数量、活动历史记录等。一些依赖健康检查可以在包存储仓库和 GitHub 上执行，而像 deps. dev 和 Snyk advisor 等工具也可以提供帮助。尽管依赖健康不是一项新技术，但随着团队在软件开发过程中越 来越多地尝试 GenAI 工具，该实践正在获得新的关注。 随着平台工程的广泛采纳，我们看到了新一代的工具，它们超越了传统的平台即服务（PaaS）模型，为开发人 员和平台团队之间提供了公开的合约。这个合约可能涉及在不同环境中提供云环境、数据库、监控、身份验证 等功能。这些工具强制执行组织标准，同时允许开发人员通过配置自主访问多种环境。这些平台编排系统的案 例包括 Kratix 和 Humanitec Platform Orchestrator。我们建议平台团队考虑这些工具，作为自己的脚本、本

• 通常采用灰度升级的方式：即选择某一个或N个实例先升级到 新版本，在充分稳定验证后，再考虑升级其他实例，而该灰 度的过程可以分为任意批次。有时为了验证多个版本，一个 应用内也可以同时又多个版本并行存在。充分保证现网的服 务质量以及版本的可控性。 能力升级：灰度升级 如左图所示，对某一个实例从v7升级到v8版本。 • 2018-02-06 11:46:38 V7版本开时候运行 • 2018-02-09 节点通信开销(数字越小，访问代价越低) Singular and link Fragment 成本 GPU使用方式 实现 VCUDA 在vm中构建wrapper library以拦截GPU调用并将这些调用重定向 到宿主机执行 Amazon 将设备直接挂在到vm中 GPUvm 在Zen的hypervisor层实现了全虚拟化。为了隔离运行在物理 GPU上的多个VM，GPUvm将物理GPU分成几个部分，并将每个 部分分配给单个VM。 GPU资源的发现 • 为任务分配相应的硬件 资源及配置容器运行时环境 transparent. GaiaGPU不应修改Kubernetes代码或容器镜像以共享GPU。使用共享GPU执行应用程序应该就像 在物理GPU上执行一样。 Performance. GaiaGPU应当保证vGPU的性能与原生GPU性能相近。 Isolation. GaiaGPU可以有效的分配和回收每个容器使用的GPU资源并实现不同容器间的资源隔离。

数字映射。数字技术实现了对现实世界的数据采集、存储，并能提 供分析处理数据所需的算力。云计算作为链接数字世界计算资源与 数字应用的纽带，能够有效整合海量、泛在的算力资源，加速数字 应用的感知、判断和执行。 （一）数字应用方式与算力资源供给的变革，推动云计 算作用转变 人工智能大模型的快速发展，引发数字应用使用方式和算力资 源供给的双向变革，加速了云计算向面向大体量分布式应用体系化、 工程化创新的操作系统演进。 向上来看，数字应用呈现出分布式、多模态、超大量级的特点。 以 ChatGPT 为例，ChatGPT 的模型参数已达千亿，且模型训练数据 涉及文本、图片、音视频等多个模态，基于分布式训练框架实现了 超大规模量级的并行计算，这对部署模型的云计算平台提出新的需 求。云计算的焦点不仅仅在提升单点应用的研运效能，更要发挥出 面向大规模分布式应用协调、分发、部署的中枢管控能力。模型构 建的复杂性限制了技术的普惠发展，基于云计算构建开箱即用的大 资源统一调度平台等。 云计算白皮书（2023 年） 30 分发方面，云计算声明式部署方式推动算力资源分发模式新变 革。传统的算力分发方式是面向流程的，以分发命令为核心，分发 结果取决于分发命令的精确程度及执行程度。传统分发方式下，算 力资源主要依靠运维团队手动部署和维护，一个机房的搭建通常需 要 4 人以上的运维团队至少一周的工作量，涉及算力、网络设备等 软硬件的安装、设备和场地的管理以及安全能力的部署。但传统分

通过卷基层和池化层的网络结构进行不断的对图像的特征提取 数组运算并行化 – CUDA by Example 将数组 a 和数组 b 相加并将计算结果放入数组 c 中。 数组运算并行化 – CUDA by Example 当我们有多个 core 的时候 深度学习对于并行化硬件的依赖 - GPU • Core 的多少往往决定真正并行化运算的数量 GPU 硬件使用流程 AI 模型

多云多K8S多环境平台建设的初衷 多环境平台建设的初衷 01 02 03 多云多K8S多环境平台 K8S集群(多个) 管理后台 发布平台 提升资源使用率 1 多云冗余高可用 2 环境并行互不影响 3 P-2 线下多环境一期方案 ‣ 一键拉起master镜像新环境 ‣ 如何确保环境间资源互不影响 ‣ 一期方案存在的问题与挑战 ‣ 如何实现线下多环境 • 一键拉起环境 注意点 注册中心独立部署 流量隔离 • 多域名，泛域名解析匹配 数据 • 全量同步线上脱敏数据 • Mysql redis ES 全搭建 • 数据全部物理隔离 发布平台 • 按需分支发布 • 多环境完全并行 • 一期方案的问题与挑战 1 2 3 多环境资源“假”隔离 Namespace隔离，共享资源 数据依赖成本高 所有存储都是独立搭建的 集群规模大，运维工作量大 环境数目越多，资源成本，维护成本越高

Kubernetes Docker Applications 20 2017 Lenovo Internal. All rights reserved. 监控与日志 • 日志平台：多种采集手段并行 OS Kubernetes Docker Applications K8S DaemonSet logspout K8S DaemonSet stdout stderr K8S Pod

k8s操作手册 前言： 1.蓝色字体表示命令行命令，正式执行时不要复制前面的#号，#号只是提示应 该使用root权限操作 2.绿色字体表示注释，有时注释太多就不用绿色表示了 3.注意：本文档的所有操作请先在测环境进行实践，请不要直接在真实的服务 器中操作！ 版权声明： 本文档以开源的形式发布，所有条款如下： （1）无担保：作者不保证文档内容的准确无误，亦不承担由于使用此文档所导致的任何后果 restart kubelet 所有节点都要安装docker及cri-docker 已加入集群的，所有节点都要修改 /var/lib/kubelet/kubeadm-flags.env 内容 未加入集群的，执行加入命令时添加--cri-socket选项： # kubeadm join x.x.x.x:6443 --token xxxx \ --discovery-token-ca-cert-hash #查看名为kube-proxy*的 pod # kubectl -n kube-system delete pod kube-proxy-rssd7 #删除pod 开启了ipvs模式的k8s结点上执行ip addr命令会看到名为kube-ipvs0的接口名 ⑥部署flannel网络插件 flannel只是pod容器网络的一种实现方式，还可使用calico，canal等其他网络方 案，一套k8s集群只可使用一种网络插件

自动发布和回滚：可以自动实现版本的发布和回滚。 秘钥和配置管理：对于密码等信息，专门提供了Secert对象为其解耦。 存储编排：支持多种不同类型的存储，包括本地存储、云存储、网络存储等。 批量处理执行：除服务型应用，还支持批处理作业CI（持续集成），如有需要，一样可以实现容器故障后修复。 Kubernetes特点： 可移植: 支持公有云，私有云，混合云，多重云（multi-cloud） 可扩展: k8s基本概念和术语介绍（Master） 主节点（Master）： Master是集群的控制节点，每个k8s集群中至少需要一个Master节点来维护整个集群的管理和控制，几乎所有的控制命 令都是发给它，它负责执行具体的动作。它很重要，如果它不可用，那么我们所有的控制命令都会失效。 Master节点上运行一组关键进程： API Server API服务器（kube-apiserver）：提供HTTP R Node节点上运行一组关键进程： kubelet：主节点代理，负责Pod对应的容器的创建启停等任务，同时与Master节点密切协作，实现集群管理的基本功 能。 kube-proxy：它负责节点的网络，在主机上维护网络规则并执行连接转发。它还负责对正在服务的pods进行负载平衡。 比如一个服务可能会运行多个副本（Pod），由他来控制具体由哪个Pod提供服务。为Service提供cluster内部的服务发 现和负载均衡。 Docker

stale c-lag -- ❌ ❌ u-lag -- ✅ ✅ d-lag ❌ -- -- 问题抽象 本地 cache 中的对象有两种可能，即及时（latest）与过 期（stale），我们生成的执行计划有3种可能的动作，即 Create、Update 和 Delete。 进一步的，stale 对象意味着本地 cache 落后于 API Server 中对象若干版本，也就是说有一段增量更新还没有 Server 中有该对象，cache 中无该对象。此时 Plan 只应该是 Update 或 Delete 两种 Action，但 因本地无 cache，所以 Update 实际变成了 Create，执行时会报“StatusReasonAlreadyExists”错误，与预期不符； Delete 实际不会生成，意味着操作丢失，与预期不符。 当 u-lag 时，API Server 与 cache 中都有该对象，但版本不同。此时 Plan 只应该是 Create 一种 Action，但因 cache 中有该对象，所以 Create 变成了 Update，执行时会报“StatusReasonNotFound”错误；当新 Spec 中无该对象时， Plan 会错误生成 Delete Action，执行时同样会报对象不存在错。 根据上述分析，stale cache 确实会有问题，如何补救？先看一个 stale 对象。 如下图所示

JDOS 常规的容器服务 ，使用 gpu 的 zone ， 自行设定相应的镜像即 可，有完善的周边服务 训练服务 • 提供基于 kubeflow 的分布式训练方案 – 界面化操作，用户提供代码地址和执行命令即可 – 系统内建支持安装 pip 依赖 – 自制存储插件支持分布式文件系统存储用户数据 – 支持官方镜像，不需要 JDOS 提前协助制作镜像 – 提供 tensorboard 作为训练监控实时查看训练状态 利用率 – Job 调度 （部门 quota 限制 + 优先级） • 创建训练 – 用户选择集群提供代码地址和执行命令即可 – 选择所用框架（镜像）：支持官方，亦可自制 （提供 dockerfile 生成镜像服务） – 选择存储来源：对接了内部的存储 – 填写代码地址，执行的命令等 – 可以选择是否监控训练，提供 tensorboard 任务列表 可以指定 git 的 commit-id