Enabling eBPF Super Powers on ARM64 with Cilium Jianlin Lv Trevor Tao October 28, 2020 Preface Arm ecosystem of CNI Support Arm64 • Cilium enable on aarch64 • https://github.com/cilium/cilium/issues/9898 • Fix compiling and runtime issue on Arm64; • Multi-arch support for cilium-related images • CI/CD • Travis • Unit test Travis CI • Arm64 Full VM • arm64-graviton2 • Refer to: • https://docs Demo on Arm64 Future Work • Cilium benchmark on Arm64 • Enable End-To-End Testing Cilium Channel for Arm64 • https://cilium.slack.com/archives/C0125S9TQD8 Confidential Restricted © 2020 Arm Limited

Manual for Arm-based Computers Version 1.0, January 2023 www.moxa.com/products © 2023 Moxa Inc. All rights reserved. Moxa Industrial Linux 3.0 (Debian 11) Manual for Arm-based Computers ............................................................................ 8 Connecting to the Arm-based Computer ................................................................................... ............................................................................. 24 Localizing Your Arm-based Computer ...................................................................................

ARM 芯片的 Python + AI 算力优化 主讲人： 朱宏林 – 阿里云程序语言与编译器团队 简介 • 当今开发者们大量使用 Python 语言编写的 AI 程序。过去这些程序总跑在 GPU 或者 x86 架构的 CPU 上。然而综合考虑到功耗、成本、性能等因素，云厂商们开始建设 ARM 架构的服务平台，如 何整合 Python + AI 的相关软件并使其在该平台上发挥最高的性能成为了工程师们关注的焦点。 矩阵乘法是深度学习计算的重要组成部分，我们利用 ARM 架构新提供的矩阵扩展对 bf16 类型的 矩阵乘法计算进行优化，该优化将纯矩阵乘法的运算速度提升 3 倍以上，对深度学习推理任务性能 提升明显。目前，该成果已经被集成进 OpenBLAS 和 PyTorch 中。 • 本次演讲，将向大家介绍我们在倚天 710 ARM 芯片上开展的 Python + AI 优化工作，以及在 ARM 云平台上部署 Python Python + AI 任务的最佳实践。 深度学习 • 广泛使用的深度学习框架 • TensorFlow、PyTorch • 结合硬件（ARM 服务端芯片） • 倚天 710 • AWS graviton • 矩阵乘法 • 为什么矩阵乘法是深度学习的核心 • Conv、Linear、Transformers 来源: Why GEMM is at the heart of deep learning

SoC（系统级芯片）产品在芯片产品中的比重已达到 70% 以 上，这表明芯片应用与 CPU 架构之间的关联性正在增强。历史上，在 PC 和互联网 时期，x86 架构芯片占据优势，而在移动互联网时期，ARM 架构芯片占据优势，今 后，在智能互联时期，CPU 架构格局也会随之发生变化。 近年来，国际上一种新兴的开源精简指令集架构 CPU（RISC-V），为全球芯片产 业创新发展提供了新的机遇。RISC-V 在数十年的发展中，先后出现过 50 多种不同的指令集架构，但真正被广泛使用 的不多，知名的有 Intel x86、MIPS、ARM、Sun 公司的 SPARC、IBM 公司的 Power 等。其中，Intel x86 系列处理器在 PC 和服务器市场占主导地位，而 ARM 架构在 移动手持设备与嵌入式领域占绝对优势。近年来，RISC-V 作为新兴开放指令集架构 得到了越来越多的关注，正如 RISC-V 灵活配置，在简洁性、实现成本、功耗、性能和程序代码量等各方面都有较显著的优 势。从最简单的小面积、低功耗的嵌入式微控制器，到功能强大的服务器，都可以基 于 RISC-V 指令集架构进行开发。相比于 x86 和 ARM 等主流商业架构，在 RISC-V 通用架构基础上实现专用领域加速器也是优点之一。RISC-V 指令集架构所具有的免 费、开放、简单、模块化、易扩展等特性，加上目前推出的多款优秀的开源芯片及芯

– https://gitee.com/tinylab/riscv-lab • ARM Lab – Learning embedded ARM software development，merged in Linux Lab Disk for ARM – https://gitee.com/tinylab/arm-lab 9 欢迎加入 Linux Lab 用户组，联系微信：tinylab，公众号：泰晓科技 components have been prebuilt Rootfs Support include initrd, harddisk, mmc and nfs, Debian availab for ARM Docker Cross toolchains from gcc-4.3 available in one command, external ones configurable Access aarch64/raspi3 ]: 3 ARCH = arm64 4 CPU ?= cortex-a53 5 LINUX ?= v5.1 6 ROOTDEV_LIST := /dev/mmcblk0 /dev/ram0 7 ROOTDEV ?= /dev/mmcblk0 8 [ aarch64/virt ]: 9 ARCH = arm64 10 CPU ?= cortex-a57 11

RISC-V 实验盘 – https://gitee.com/tinylab/riscv-lab • ARM Lab – 用于学习嵌入式 ARM 软件开发，已集成到 Linux Lab Disk，即泰晓 ARM 实验盘 – https://gitee.com/tinylab/arm-lab 9 欢迎加入 Linux Lab 用户组，联系微信：tinylab，公众号：泰晓科技 1.3 11, v2.6.10 ~ v5.x 3 预置组件 提供上述组件的预先编译版本，并按开发板分类存放，可即时下载使用 4 根文件系统 支持 initrd，harddisk，mmc 和 nfs; ARM 架构提供 Debian 系统 5 Docker 包括 gcc-4.3 在内的交叉工具链已预先安装，还可灵活配置并下载外部交叉工具链 6 灵活访问 支持本地或网络访问，支持命令行和图形界面，支持 6.4 v0.4 @ 2020.06.01 v0.4 通过提升镜像下载速度、优化 make 性能、完善登陆方式等进一步完善使用体验，同 时首次为 64 位 ARM 架构的 aarch64/virt 新增 U-Boot 支持并升级 arm/vexpress-a9 的 U-Boot 到当前最新版本，另外，修复了一处新内核下在容器内插入 NFSD 模块导致的系统卡 死问题。 • v0.4 rc3

Disk – https://gitee.com/tinylab/riscv-lab • ARM Lab – Learning embedded ARM software development，merged in Linux Lab Disk – https://gitee.com/tinylab/arm-lab 9 欢迎加入 Linux Lab 用户组，联系微信：tinylab，公众号：泰晓科技 components have been prebuilt Rootfs Support include initrd, harddisk, mmc and nfs, Debian availab for ARM Docker Cross toolchains from gcc-4.3 available in one command, external ones configurable Access aarch64/raspi3 ]: 3 ARCH = arm64 4 CPU ?= cortex-a53 5 LINUX ?= v5.1 6 ROOTDEV_LIST := /dev/mmcblk0 /dev/ram0 7 ROOTDEV ?= /dev/mmcblk0 8 [ aarch64/virt ]: 9 ARCH = arm64 10 CPU ?= cortex-a57 11

Disk – https://gitee.com/tinylab/riscv-lab • ARM Lab – Learning embedded ARM software development，merged in Linux Lab Disk – https://gitee.com/tinylab/arm-lab 9 欢迎加入 Linux Lab 用户组，联系微信：tinylab，公众号：泰晓科技 components have been prebuilt Rootfs Support include initrd, harddisk, mmc and nfs, Debian availab for ARM Docker Cross toolchains from gcc-4.3 available in one command, external ones configurable Access aarch64/raspi3 ]: 3 ARCH = arm64 4 CPU ?= cortex-a53 5 LINUX ?= v5.1 6 ROOTDEV_LIST := /dev/mmcblk0 /dev/ram0 7 ROOTDEV ?= /dev/mmcblk0 8 [ aarch64/virt ]: 9 ARCH = arm64 10 CPU ?= cortex-a57 11

Linux 实 验盘 – https://gitee.com/tinylab/riscv-lab • ARM Lab – 用于学习嵌入式 ARM 软件开发，已集成到 Linux Lab Disk，即泰晓 Linux 实验盘 – https://gitee.com/tinylab/arm-lab 9 欢迎加入 Linux Lab 用户组，联系微信：tinylab，公众号：泰晓科技 1.3 11, v2.6.10 ~ v5.x 3 预置组件 提供上述组件的预先编译版本，并按开发板分类存放，可即时下载使用 4 根文件系统 支持 initrd，harddisk，mmc 和 nfs; ARM 架构提供 Debian 系统 5 Docker 包括 gcc-4.3 在内的交叉工具链已预先安装，还可灵活配置并下载外部交叉工具链 6 灵活访问 支持本地或网络访问，支持命令行和图形界面，支持 6.4 v0.4 @ 2020.06.01 v0.4 通过提升镜像下载速度、优化 make 性能、完善登陆方式等进一步完善使用体验，同 时首次为 64 位 ARM 架构的 aarch64/virt 新增 U-Boot 支持并升级 arm/vexpress-a9 的 U-Boot 到当前最新版本，另外，修复了一处新内核下在容器内插入 NFSD 模块导致的系统卡 死问题。 • v0.4 rc3

Linux 实 验盘 – https://gitee.com/tinylab/riscv-lab • ARM Lab – 用于学习嵌入式 ARM 软件开发，已集成到 Linux Lab Disk，即泰晓 Linux 实验盘 – https://gitee.com/tinylab/arm-lab 9 欢迎加入 Linux Lab 用户组，联系微信：tinylab，公众号：泰晓科技 1.3 11, v2.6.10 ~ v5.x 3 预置组件 提供上述组件的预先编译版本，并按开发板分类存放，可即时下载使用 4 根文件系统 支持 initrd，harddisk，mmc 和 nfs; ARM 架构提供 Debian 系统 5 Docker 包括 gcc-4.3 在内的交叉工具链已预先安装，还可灵活配置并下载外部交叉工具链 6 灵活访问 支持本地或网络访问，支持命令行和图形界面，支持 6.4 v0.4 @ 2020.06.01 v0.4 通过提升镜像下载速度、优化 make 性能、完善登陆方式等进一步完善使用体验，同 时首次为 64 位 ARM 架构的 aarch64/virt 新增 U-Boot 支持并升级 arm/vexpress-a9 的 U-Boot 到当前最新版本，另外，修复了一处新内核下在容器内插入 NFSD 模块导致的系统卡 死问题。 • v0.4 rc3