ARM 芯片的 Python + AI 算力优化 主讲人： 朱宏林 – 阿里云程序语言与编译器团队 简介 • 当今开发者们大量使用 Python 语言编写的 AI 程序。过去这些程序总跑在 GPU 或者 x86 架构的 CPU 上。然而综合考虑到功耗、成本、性能等因素，云厂商们开始建设 ARM 架构的服务平台，如 何整合 Python + AI 的相关软件并使其在该平台上发挥最高的性能成为了工程师们关注的焦点。 提升明显。目前，该成果已经被集成进 OpenBLAS 和 PyTorch 中。 • 本次演讲，将向大家介绍我们在倚天 710 ARM 芯片上开展的 Python + AI 优化工作，以及在 ARM 云平台上部署 Python + AI 任务的最佳实践。 深度学习 • 广泛使用的深度学习框架 • TensorFlow、PyTorch • 结合硬件（ARM 服务端芯片） • 倚天 710 •

成本越来越⾼高： • 业务中断成本 • 缺少持续改进（运维⼈人员⼤大部分时间忙于救⽕火） • ⼈人员学习速度跟不不上业务增⻓长和问题出现的速度 基本概念 • AIOps = Artificial Intelligence for IT Operations • 组合⼤大数据 + 机器器学习 + 分析来帮助IT运维： • 发现、预测、修复问题 ⼤大数据 机器器学习 分析 Garner：AIOps对IT运维的改进 应⽤用编排 3 开源⽅方案选择与Python作⽤用 特定场景下特定的平台搭建选择及策略略以及Python的作⽤用 • ⽇日志类数据⽅方案 • 指标类时序数据⽅方案 • 其他OLAP选择 • AI增强⽅方案 数据源与监控 - 容器器化架构为例例 物理理主机/VM层监控 容器器POD指标监控 容器器CaaS层资源监控 应⽤用层性能监控 应⽤用层 ⽇日志 指标监控 prometheus 数据治理理：Python ETL、PySpark、Flink/Blink-Python • 机器器学习：Airflow（编排）+ 如下机器器学习框架 • ⾃自动化：Ansible、Puppet等 • AI增强 - 降噪去重与模式识别 • 对海海量量⽇日志进⾏行行模式聚类（例例如从65万条⽇日志，聚类出50条⽇日志模式） 阿⾥里里云⽇日志服务 Sumologic Splunk 消除告警疲劳 •

great advantage is that there are no external library dependencies, nor the need to employ artificial intelligence or machine learning technolo- gies. It also provides an integrated interface to the well-known (span["size"] * 0,05) is generated. 24.1. Functions 437 PyMuPDF Documentation, Release 1.24.2 Often, an “artificial” bold text in PDF is created by 2 Tr. There is no equivalent span type for this case. Instead,

application has a lot of tasks, some process video, others process images, and some gather collective intelligence about users. Some of these have higher priority than others so we want to make sure the high priority

application has a lot of tasks, some process video, others process images, and some gather collective intelligence about users. Some of these have higher priority than others so we want to make sure the high priority

call_method('get_context'), body=[...]) New in version 2.10. Node type Stmt class jinja2.nodes.Scope(body) An artificial scope. Node type Stmt class jinja2.nodes.With(targets, values, body) Specific node for with

application has a lot of tasks, some process video, others process images, and some gather collective intelligence about users. Some of these have higher priority than others so we want to make sure the high priority

application has a lot of tasks, some process video, others process images, and some gather collective intelligence about users. Some of these have higher priority than others so we want to make sure the high priority

26 Ø 目前赛灵思的AI开发工具支持 python 语言 输入，可以做 AI inference 的数据前处理 和后处理的工作。这部分工作可以在SOC 的ARM 里面实现。 Ø Xilinx AI Developer Resource Ø https://www.xilinx.com/products/ design-tools/ai-inference/ai- developer-hub Xilinx Edge AI Tutorial Ø https://github.com/Xilinx/Edge-AI- Platform-Tutorials Ø Xilinx ModelZoo Ø https://www.xilinx.com/bin/public /openDownload?filename=all_mo dels_20190528.zip Ø Xilinx AI Forums Forums Ø https://forums.xilinx.com/t5/Deep hi-DNNDK/bd-p/Deephi Python in Edge AI Computing – Xilinx DNNDK 27 马达控制和可预测性维护 FOC Algorithm HLS/SDSoC Translation and Overlay 马达控制可视化： Python with Jupyter

26 Ø 目前赛灵思的AI开发工具支持 python 语言 输入，可以做 AI inference 的数据前处理和 后处理的工作。这部分工作可以在SOC的 ARM 里面实现。 Ø Xilinx AI Developer Resource Ø https://www.xilinx.com/products/desig n-tools/ai-inference/ai-developer- hub Xilinx Edge AI Tutorial Ø https://github.com/Xilinx/Edge-AI- Platform-Tutorials Ø Xilinx ModelZoo Ø https://www.xilinx.com/bin/public/ope nDownload?filename=all_models_2019 0528.zip Ø Xilinx AI Forums Forums Ø https://forums.xilinx.com/t5/Deephi- DNNDK/bd-p/Deephi Python in Edge AI Computing – Xilinx DNNDK 27 马达控制和可预测性维护 FOC Algorithm HLS/SDSoC Translation and Overlay 马达控制可视化： Python with Jupyter