TKE使用eBPF优化 k8s service Jianmingfan 腾讯云 目录 01 Service的现状及问题 优化的方法 02 和业界方法的比较 性能测试 03 04 解决的BUG 未来的工作 05 06 01 Service的现状及问题 什么是k8s Service • 应用通过固定的VIP访问一组pod，应用对Pod ip变化 无感知 • 本质是一个负载均衡器 经历了二十多年的运行，比较稳定成熟 • 支持多种调度算法 优势 IPVS mode 不足之处 • 没有绕过conntrack，由此带来了性能开销 • 在k8s的实际使用中还有一些Bug 02 优化的方法 指导思路 • 用尽量少的cpu指令处理每一个报文 • 不能独占cpu • 兼顾产品的稳定性，功能足够丰富 弯路 • 为什么DPDK不行？ • 独占cpu，不适合分布式的lb map • 由于eBPF中没有timer机制 IPVS 如何做SNAT？ 优化方法评价 • 优势 • 大大缩短了数据通路，完全绕过了conntrack/iptables • 不足 • 对内核模块做了一定的修改，部署更困难 03 和业界方法比较 V.S. 纯粹的eBPF service 和其他的优化方法对比 V.S. Taobao IPVS SNAT patch • 复用了IPVS

对资源进行分配、调度、配置、部署等工作。 Lable就是给资源对象打一个标签，然后通过Label Secletor（标签选择器）查询和筛选拥有某些Label的资源对象， k8s通过这种方式实现了类似SQL的简单和通用的对象查询机制。 标签选择器可以类比SQL语句中的where查询条件，例如name=redis-salve 表示只查询名字为redis-salve的资源对 象。 env != production: 匹配所以不具有标签 kubectl是k8s客户端CLI工具，可以让用户通过命令行的方式对k8s集群进行操作。 kubectl命令行语法： kubectl [command] [TYPE] [NAME] {flags} command:子命令，用于操作k8s集群的资源对象的命令，例如create、delete、describe、get、apply等。 TYPE： 资源对象的类型，区分大小写，能以单数、复数或者简写形式表示。比如Pod可以使用pod、pods、pd ods、pd NAME：资源对象的名称，区分大小写，如果不指定名称，则系统返回属于TYPE的全部对象列表，比如kubectl get pods将返回所有Pod的列表 Flags：kubectl子命令的可选参数，例如使用“-s”指定apiserver的URL地址而不用默认值。 32 www.h3c.com Confidential 秘密 32 32 Kubernetes常见命令介绍 1.

正在用它来管理数据产品的全生命周期，包括代码和数据的开发、分支、部署。通过它的自动化环境管理，能 够轻易建立、修改、自动销毁基于特征分支的环境。它的声明式标准（SOLE）能力也值得关注，因其可以优化 开发者体验。它能使团队构建数据产品的时间从几个月变为几天。我们的团队成功将 DataOps.live 用于生产环 境，这也是我们推荐在使用 Snowflake 时使用这一平台的原因。 27. 方面有很好的体验，建议您评估该平台是否适用于协作翻译工作流程。 30. Orca 试验 Orca 是一个专有的云安全平台，用于识别、优先级排序和修复安全风险和合规问题。它支持主流的云提供商和 混合设置。Orca 拥有广泛的安全查询和规则，以持续监控已部署的工作负载，检测配置错误、漏洞和合规性问 题。它支持云虚拟机、无服务器函数、容器以及已部署工作负载的 Kubernetes 上部署的应用。这些内置的安 全规则会定期更新 31. Trino 试验 Trino 以前被称之为 PrestoSQL，是一个专为面向大数据交互式分析查询而设计的开源分布式 SQL 查询引擎。经 过优化后，它可以在本地或者云上环境运行，并支持对 Hive、Cassandra、关系型数据库、甚至专有数据存储 等多种不同的数据源进行查询。它支持基于密码的认证、LDAP 和 OAuth 的身份验证机制，同时具备在 catalog、 schema

★crictl常用操作 crictl只支持pull拉取镜像及rmi删除镜像操作，不支持push及tag打标签 # crictl images #查看镜像，默认查询k8s.io命名空间，且不可指定命名 空间 # crictl ps #查看容器，默认固定为k8s.io的命名空间 # crictl logs xxxx 1 #查看vxlan信息，默认使用8472/udp端口 最后，k8s集群中的每台成员结点都会向podSubnet中注册一个24位掩码的子 网，把16位的pod网段划分为24位的子网，每台成员结点分配一个24位的子 网， # cat /run/flannel/subnet.env #查看当前结点注册的pod子网信息 ⑦部署cal service的port 去访问目标服务 名称解析默认后缀为集群初始化时--cluster-domain指定的域名后缀，所以如果 pod里的/etc/resolv.conf的search后得指定默认查询的域，如果不对，则域名解 析会失败 search default.svc.cluster.local svc.cluster.local cluster.local ②NodePort类型

我们是谁 • 问题背景 • Alluxio 助力云原生 AI 模型训练 • 相关资料 • Alluxio 是谁 • Allluxio 与 Kubernetes 结合 • Alluxio 优化实践 我们是谁？ 车漾 阿里云高级技术专家 范斌 Alluxio 创始成员 背景 硬件 软件 数据 容器化的基础架构 人工智能发展的驱动力 模拟数据训练速度 311.6 7323 Cloud OSS Alluxio 服务器 Alluxio 服务器 大数据查询 大数据ETL 模型训练 Alluxio核心功能一：分布式数据缓存 Alluxio 服务器 A B /path1/file1 /path2/file2 C A B C A Alluxio 服务器 Alluxio 服务器 大数据查询 大数据ETL 模型训练 Alluxio核心功能二：灵活多样的数据访问API API Alluxio 服务器 HDFS接口客户端 POSIX接口客户端 Alluxio 服务器 Alluxio 服务器 大数据查询 大数据ETL 模型训练 Alluxio核心功能三：统一的文件系统抽象 Alluxio 服务器 Alluxio在云端AI训练场景的性能好处 • 支持大规模的数据缓存 • 本地内存加速 • 支持数据预热 • LRU缓存管理 Object storage

热点领域和热点方向，试图在市场上抢得先机。 四是云计算技术不断推陈出新，助力产业高质量发展。随着上 云进程持续加深，企业需求逐步向用云转移，效率、性能、安全等 成为用户关注点，应用现代化、一云多芯、平台工程、云成本优化、 系统稳定性、云原生安全等新技术层出不穷，满足用户多样性场景 需求，助力产业数字化升级。 在此背景下，中国信息通信研究院继《云计算白皮书（2012 年）》 之后第 9 次发布云计算白皮书。本白皮书聚焦过去一年多来云计算 发力低/无代码领域，其发布的 Power Platform 已经与 Office 365、 Dynamics 365 以及 Azure 三大生态充分打通，形成完整的技术生态。 二是更注重软硬协同，优化性能。在算力多样化、节点高密化、载 体细粒度化等诉求下，底层硬件在云计算的驱动下也因云而变。2022 年 6 月，阿里云发布 CIPU（Cloud infrastructure Processing 省市根据 自己的上云用云情况，纷纷出台了适用地方发展的相关政策，如北 京市、重庆市均明确加快云计算在制造行业的应用创新，加快实体 企业数字化转型进程；江苏省和上海市鼓励利用云计算推动跨境电 子商务等数字贸易，促进国际贸易的增长；浙江省提出利用云计算 为直播平台等企业赋能，发展数字文娱产业；广东省鼓励推动云计 算与各行业融合，催生产业新形态，创新经营新模式。此外，为落 地实施国家云计算

Serverless：关注应用而非基础设施 敏捷开发 极致弹性 成本优化 • 无需购买和安装机器 • 无需管理服务器 • 无需升级和更新OS • 快速部署和更新应用 • 快速发布 • “无限”容量 • 秒级弹性 • 更好的扩展性 • 更好的灵活性 • 按需创建 • 无资源闲置 Serverless容器 敏捷开发 极致弹性 成本优化 容器 Build once, Run anywhere Pod Pod ECS OS ASK: Serverless Kubernetes • Nodeless：简单易用，无节点管理，运维成本低 • 极致弹性: 30s 500 pod • 成本优化：按需创建，支持spot和预留实例劵 • Kubernetes兼容性： deployment/statfulset/job/service/ingress/CRD • ALB Ingress: Nodeless：最佳弹性和扩展性，无传统调度器的复杂调度逻辑，最优的调度效率。 • 支持多可用区、多规格调度。 • 支持批量调度。 • AZ亲和性和反亲和性。 • ECI Pod生命周期管理：直通ECI Pod（Pod状态查询、logs、exec、metrics链路），降低ECI管控压力。 Elastic Scalling ECI ASK-Scheduler K8S API Server • Pod（N） : Node（1）