Control • Logging, monitoring, autoscaling, high availability • Extensibility / Integration • CI/CD examples • Future plan Our DevOps Expectations • Build a platform and easy to integrate with other generation/Volume... • Logging, monitoring, autoscaling, high availability • Extensibility/Integration • CI/CD examples • Future plan Overall Architecture Kubernetes Cluster Kubernetes Cluster Node Node Node such as external service registration, service catalog, integrate using CRD and controller, etc… CI/CD Examples - Build Docker Image dockerfile using ConfigMap Job - pod template - volumes user build

相关话题展开讨论。这是有史以来第一次，我们需要一个可视化指南来 理清不同 AI 的类别和功能（即使在 JavaScript 生态系统十分混乱的时期，我们也从未采取过这样的做法）。作 为一家开创 CI、CD 等突破性工程实践历史的软件咨询公司，我们对于使用 AI 辅助软件开发特别感兴趣。因此， 本期技术雷达讨论了许多代码辅助工具，如 GitHub Copilot、Tabnine 和 Codeium。我们兴奋于 创建监控和告警 9. ReAct 提示工程 10. 检索增强生成 11. 基于风险的故障建模 12. 大语言模型半结构化自然语言输入 13. 追踪健康债务状况 14. 对告警规则的单元测试 15. CI/CD 的零信任保护 评估 16. 通过依赖健康检查化解包幻觉风险 17. 设计系统决策记录 18. GitOps 19. 大语言模型驱动的自主代理 20. 平台编排 21. 自托管式大语言模型 暂缓 创建监控和告警 9. ReAct 提示工程 10. 检索增强生成 11. 基于风险的故障建模 12. 大语言模型半结构化自然语言输入 13. 追踪健康债务状况 14. 对告警规则的单元测试 15. CI/CD 的零信任保护 评估 16. 通过依赖健康检查化解包幻觉风险 17. 设计系统决策记录 18. GitOps 19. 大语言模型驱动的自主代理 20. 平台编排 21. 自托管式大语言模型 暂缓

•公司遗留内部运维（CI/CD）系统，需要对接公有云 •国内其他云厂商的容器服务问题较多、很不成熟 华为方案价值： •支持丰富的弹性伸缩指标策略，秒级伸缩应对流量变化 •支持模板方式一键部署，分钟级完成开服 •支持滚动升级等策略，秒级完成升级 •支持原生K8S API，方便集成调用 •提供Source2image工具，提高容器镜像的构建效率 CI/CD系统 客户交付 运维系统 通过自动化持续构建与 测试，降低开发测试成 本，可节省290人日/ 月，节约成本约237万元 /年 237万/年 节约成本 COST 290人日/月 测试成本降低 运维效率提升6倍 建立CI/CD流程，将开 发、测试、运维有机串 联，SDK版本升级由30分 钟缩至5分钟 Efficiency 6 倍 提升 30 时间缩短 弹性伸缩应高峰 容器配置与数量根据业 务量秒级扩缩容，轻松 工作耗时2小时，效率低 •新业务上线周期长：开发、测试、验收、生产割裂，无法实现端到端的自动化，新需求上线需要2周时间 华为方案价值：采用了华为PaaS平台，在裸金属上部署容器应用，并与客户CI/CD流程集成。 22 案例： 基于ARM的裸金属容器服务，大幅提升Testbird 手机APP测试效能 真机测试TCO（CNY） PDU2:荣耀 V9 PDU1:M ate9 TCO（/手机/年）

����� ����������������� ������������� • IaaS：AWS、OpenStack与物理机 • PaaS：基于Kubernetes私有云平台， 支持CI/CD、配置管理、基于Helm的 服务编排等 基于Kubernetes平台概览 Kubernetes on AWS高可用架构 • 高可用性 • 容灾容错 • 监控报警 • 日志收集 基于Kubernetes平台技术架构 基于Kubernetes的应用部署最佳实践 • 构建Docker镜像最佳实践 • 基于Helm的应用模板抽象 • 基于Kubernetes的 CI/CD� 构建Docker镜像最佳实践 预期 ������ ������ ������ 实践 ����� ������ �������� ��Cache ��Volume ��yum/apk 基于Go模板语言，实现应用快速部署到K8s集群 基于Helm的应用模板抽象 • 模板+配置 • 参数化配置支持多个环境 • 管理应用的发布 • 复杂服务间依赖处理 基于Kubernetes的 CI/CD� 从持续集成到持续交付过程图示 • 将源代码、配置、脚本放于Git做 版本控制 • 各Repo做定期同步 • 通过promote tag筛选发布候选 版本 • 服务部署后做自动化post

其他企业需要的优化功能 企业典型的多租户模型 租户 Tenant User User group Namespace Deployment Registry 
 project CI/CD workspace Pod … resources CPU quota MEM quota Storage quota Device (GPU) quota …. 原⽣生模式中获益 状态可读：跟踪所有 k8s 对象状态 版本化：快速从历史版本回滚 构建应⽤用 典型 CI/CD 流程 CAICLOUD/CYCLONE • 开源 • https://github.com/caicloud/cyclone Cyclone 技术架构 云原⽣生 CI/CD 引擎 设计 - 云原⽣生，k8s 亲和性 性能 - 为企业场景优化 扩展性 - ⽀支持 AI ⼯工作流

Engineer Ops Manager / BOSH Admin Manages OpsMan Tiles Developer Consumes K8s API/kubectl Ci/CD Application DevOPS Owner Consumes PKS API/CLI Day 1 & Day 2 for k8s clusters Manages access 運作 監控 設計 安全 設計 帳號 權限 安全 維運 監控 維運 所需技能: Shell Script, Python, VMware API, CI/CD Tooling 所需技能: Java, .NET, SQL, Web 所需技能: vSphere/vSAN, NSX, OS, PowerCLI, Shell Script 建立平台自動化 應用開發 測試品管 基礎架構 監控維運 平台工程 ©2019 VMware, Inc. 20 Kubernetes.平台只是最後一站，前面各站也都要安全管控才不會前功盡棄 在整個CI/CD管線的各個環節都需要各種控制措施涵蓋 靜態應用安全測試 (白箱測試): Static Application Security Test (SAST) 靜態應用安全測試 : Interactive

ai-dc-web ai-dc-api 镜像版本和git版本库规范 制定git版本规范，开发提交合并master代码，git版本库和业务版本进行关联，出了问题好定位问题。 采用docker容器化之后，ci-cd由运维平台集中控制，git版本和容器镜像必需保持一致关联性，方便问题回溯。 git master dev checkout v20 dev docker build harbor k8s node 容器 harbor pod1 pod2 pod3 pod*** push images pull code k8s cluster 容器平台持续集成交付全流程 ci-cd效果 k8s运维管理平台-构建 k8s运维管理平台-容器管理 meta-server (eureka) config-server admin-server portal-server powerdns coredns test-1 test-2 test-3 dev-1 dev-2 dev-3 jenkins-k8s-cloud云构建jenkins-slave多套ci-cd流水线 test-mysql-2 dev-redis-2 test-mq-2 test-mysql-3 dev-redis-3 test-mq-3 多套环境快速交付 关注 ServiceMesher

涉及的模块：全局管理、容器管理、云原生网络、云原生存储 应用交付 通过一致性可推广的应用交付流程实现自助式上云，支持柔性租户体系，动态适配用 户组织架构规划和实时资源分配，基于云原生化的 CI/CD 流水线，集成丰富的工具链 并支持流水线高效并发执行流转，自动化完成应用的构建、部署，创新性引入 Gitops、渐进式交付能力体系，实现应用更精细的管理运维。 涉及的模块：全局管理、容器管理 安装器 基于 Kubean 自动化安装所需模块 容器管理 管理集群/节点/负载等基础设施 全局管理 设置登录、访问权限、外观 可观测性 一站式图形化仪表盘 应用工作台 CI/CD 流水线实现 GitOps 和 DevOps 工作流 多云编排 基于 Karmada 构建多云实例/负载/策略管理 微服务引擎 基于 Nacos/Sentinel/Eureka 等微服务治理中心和网关 用从 “开发 -> 测试 -> 部署 -> 运维”的全生命周期管理，能有效帮助企业实现数字 化转型，提升企业的 IT 交付能力和竞争力。 以容器管理为底座，借助全局管理实现层级资源管理，以 CI/CD 流水线和 GitOps 流程增删改查云原生应用，实现渐进式交付。 多云编排 企业从最初简单的只要上云就好，到如今开始选择到底上哪个云，或者上哪些 云，从而构建专属于企业自身的多云环境。

as code • Ops teams embracing source control (git) • Automated testing • Repeatable/consistent • CI/CD • This has worked well for App Dev. Now time for AI/ML • But, must ensure data scientist are not changes occur • Distributed File Systems • NFS • HDFS • … Classic DevOps solutions: • Containers • CI/CD • Autoscaling • A/B testing and canary release of Models • Comparing Production accuracy vs expected

云原生开发工具依然缺失 主流云原生开发方式 02 现状 1 0 全手工流程 编码后，手动构建镜像、推送到镜像 仓库、修改工作负载镜像版本，调度 10 分钟/次 自动化 CI/CD 流程 编码后，推送到代码仓库，自动触发 CI/CD 流程，等待生效。 5 分钟/次 Minikube + Telepresence Minikube 拉起本地 K8s 开发环境， Telepresence 实现本地编码。