## FFmpeg在Intel GPU上的硬件加速与优化 赵军 DCG/NPG @ Intel ## 介绍FFmpeg VAAPI • Media pipeline review • 何谓FFmpeg VAAPI • 为什么我们需要FFmpeg VAAPI • 当前状态 • 更进一步的计划 · 附录 ## 典型的 media pipeline SOURCE libavformat ## • 依赖于后端驱动，可以提供Video硬件加速 • 解码 • 编码 • 图像后处理 ## 可用的后端驱动 • Intel VA(i965) driver for Intel chip-sets • Intel hybrid driver • Intel HD driver • Mesa's state-trackers for gallium drivers: • radeon radeon, nouveau (?), freedreno, … • 废弃的 API bridges • vdpau—va bridge • powervr—va bridge ## I ntel GPU简介 ## • Gfx Label • Gen3: Pinetrail (Pineview) • Gen4: G965 • Gen5: G4X, Ironlake (Piketon, Calpella)

## Go on GPU ## Changkun Ou changkun.de/s/gogpu GopherChina 2023 Session “Foundational Toolchains” 2023 June 10 ## Agenda - Basic knowledge for interacting with GPUs • Accelerate Go programs using • Conclusion and outlooks ## Agenda - Basic knowledge for interacting with GPUs o Motivation o GPU Driver and Standards Render and compute pipeline o Vulkan/Metal/DX12/OpenGL ☐ Accelerate Go programs programs using GPUs ☐ Challenges in Go when using GPUs ☐ Conclusion and outlooks ## Motivation of GPU Acceleration Improve system computation performance Increase amount of concurrency Processing large

## DEPLOY VTA ON INTEL FPGA ## HARMAN A SAMSUNG COMPANY LIANGFU CHEN 11/16/2019 ## Moore's Law is Slowing Down 42 Years of Microprocessor Trend Data | ||Get physical memory of cma memory block (should be used for DMA). More...| ## DEPLOY VTA ON INTEL FPGA ## Software - Driver ## Cyclone V & Arria V SoC HPS Physical Memory Map ; } ## DEPLOY VTA ON INTEL FPGA ## Hardware ## Datapath of Chisel VTA  ## DEPLOY VTA ON INTEL FPGA ## Hardware ![I

Go on GPU 欧长坤 changkun.de/s/gogpu GopherChina 2023 Session “Foundational Toolchains” 2023 June 10 关于我 慕尼黑大学博士 (@mimuc/staff) 研究方向人在环路优化 (human-in-the-loop optimization) Sixt高级工程师 (@sixt/pricing-yield) …) 大纲 与GPU进行交互的基本知识 在Go程序中支持GPU加速 使用 Go 进行 GPU 计算的挑战 总结 大纲 与 GPU 进行交互的基本知识 使用 GPU 的动机 GPU 驱动和标准 渲染管线和计算管线 Vulkan/Metal/DX12/OpenGL 在 Go 程序中支持 GPU 加速 使用 Go 进行 GPU 计算的挑战 总结 总结 使用GPU加速计算的动机 提高系统计算性能 更大的并发量 大规模数据处理 机器学习、深度学习、图形学渲染等等 ’ alt=‘OCR图片’/> CPU的架构 ’ alt=‘OCR图片’/> GPU的架构 SIMD Exec Unit Cache SIMD Exec Unit Cache SIMD Exec Unit Cache SIMD Exec Unit Cache SIMD Exec

## GPU Resource Management On JDOS 梁永清 liangyongqing1@jd.com ## 提供的服务 ## Experiment ## Training 1. 用于实验的 GPU 容器 2. 基于 Kubeflow 的机器学习训练服务 3. 模型管理和模型 Serving 服务 ## Serving 均基于容器，不对业务方直接提供 GPU 物理机 物理机 ## GPU 实验 JDOS 常规的容器服务， 使用 gpu 的 zone，自行设定相应的镜像即可， 有完善的周边服务 我的系统  三一键编译  public/tensor/now.1.4.1-ueve-gpu-vi  public/tensorflow:1.7.0-devel-gpu-py3-v1 ![Image](/uploads/documents/8/

## 大数据时代的Intel之Hadoop 系统方案架构师：朱海峰 英特尔 $ ^{®} $ 中国云计算创新中心 2013.4 北京 ## 法律声明 本文所提供之信息均与英特尔 $ ^{®} $ 产品相关。本文不代表英特尔公司或其它机构向任何人明确或隐含地授予任何知识产权。除相关产品的英特尔销售条款与条件中列明之担保条件以外，英特尔公司不对销售和/或使用英特尔产品做出其它任何明确或隐含的担 订购产品前，请联系您当地的英特尔销售办事处或分销商，了解最新技术规范。 如欲获得本文或其它英特尔文献中提及的带订单编号的文档副本，可致电1-800-548-4725，或访问http://www.intel.com/design/literature.htm 性能测试和等级评定均使用特定的计算机系统和/或组件进行测量，这些测试大致反映了英特尔 $ ^{®} $ 产品的性能。系统硬件、软件设计或配置的 ，英特尔主动管理技术可能在基于主机操作系统的虚拟专用网（VPN）上，或者在无线连接、使用电池电源、睡眠、休眠或关机时无法使用或是某些功能受到限制。如欲了解更多信息，请访问：http：//www.intel.com/technology/iamt。 英特尔 $ ^{®} $ 架构上的 64 位计算要求计算机系统采用支持英特尔 $ ^{®} $ 64 架构的处理器、芯片组、基本输入输出系统（BI

CPU and GPU ## THOMAS MEJSTRIK ## DIMETOR  FWF ## Bridging the Gap: Writing Portable Programs for CPU and GPU using CUDA ROCm, Vulkan, ... ☐ You can tell me about afterwards ## Why write programs for CPU and GPU ## ☐ Difference CPU/GPU Algorithms are designed differently ☐ Latency/Throughput ☐ Memory bandwidth ☐ Number Problem ☐ Why it makes sense? ☐ Scope of the talk ## Why write programs for CPU and GPU ## ☐ Difference CPU/GPU ☐ Why it makes sense? Library/Framework developers ☐ Embarrassingly parallel algorithms

## PyTorch ## 激活函数与GPU加速 主讲人：龙良曲    ## GPU accelerated ## ☐ ☐ ☐ device = torch.device('cuda:0') net = MLP().to(device) optimizer =

PRESENTATION AGENDA ☑ TVM @ AliOS Overview TVM @ AliOS ARM CPU TVM @ AliOS Hexagon DSP TVM @ AliOS Intel GPU ☑ Misc ## PART ONE TVM @ AliOS Overview ## AliOS Overview • AliOS (www.alios.cn) is a newly designed r0 = #0; jumpr r31 } ## PART FOUR AliOS TVM @ Intel GPU ## AliOS TVM @ Intel GPU • Implement the schedule from scratch • Leverage Intel Subgroup Extension ## Subgroups  ## AliOS TVM @ Intel GPU GEMM Hardware Efficiency @ Intel Apollo Lake GPU ![Image](/uploads/documents/9/0/e/a/90eab7a9909eddc3e1f4b253cda18ef6/p24_1

## CUDA 开启的 GPU 编程 by 彭于斌 (@archibate) 往期录播：https://www.bilibili.com/video/BV1fa411r7zp 课程 PPT 和代码：https://github.com/parallel101/course ## 前置条件 • 学过 C/C++ 语言编程。 - 理解 malloc/free 之类的概念。 • 熟悉 STL ## 编写一段在 GPU 上运行的代码 - 定义函数 kernel，前面加上 ___ global___ 修饰符，即可让他在 GPU 上执行。 - 不过调用 kernel 时，不能直接 kernel()，而是要用 kernel<<1, 1>>() 这样的三重尖括号语法。为什么？这里面的两个 1 有什么用？稍后会说明。 • 运行以后，就会在 GPU 上执行 printf kernel 函数在 GPU 上执行，称为核函数，用 ___ global___ 修饰的就是核函数。  ## 没有反应？同步一下！ - 然而如果直接编译运行刚刚那段代码，是不会打印出Hello, world! 的。 这是因为 GPU 和 CPU 之间的通信，为了高效，是异步的。也就是