## DEPLOY VTA ON INTEL FPGA ## HARMAN A SAMSUNG COMPANY LIANGFU CHEN 11/16/2019 ## Moore's Law is Slowing Down 42 Years of Microprocessor Trend Data . More...| ## DEPLOY VTA ON INTEL FPGA ## Software - Driver ## Cyclone V & Arria V SoC HPS Physical Memory Map  ## DEPLOY VTA ON INTEL FPGA ## Hardware ![Image](

## FPGA 助力 Python 加速计算 陈志勇 高级技术市场经理 安富利电子科技 2019年10月19日，北京  ![Image](/uploads/documents/d/c/8/8/dc88f8a54aa261256e8a48f36d5e29d5/p1_2 之前基于python开发的工程师很少接触嵌入式环境，接触硬件 ➢ 本次题目的主要内容 ➢ Python <- tools -> FPGA ➢ 算法硬件加速：用FPGA的逻辑硬件实现算法加速 ➢ 算法如何在FPGA中实现？如何用“与或非”门电路去写算法？ 目前哪些 Xilinx FPGA 的开发工具支持 python 语言？ ➢ 目前Xilinx 工具支持python 的主要应用领域 ![Image Python 与嵌入式计算 Python 工程师开发嵌入式产品的时候哪些地方可能会遇到性能瓶颈？ 传统的计算平台：基于通用处理器的架构，Intel x86 新的嵌入式计算平台：MCU，DSP，FPGA，GPU、ASSP等 ➢ 嵌入式计算： 嵌入式系统是以应用为中心，以计算机技术为基础，软硬件可裁剪，适用于应用系统对功能、可靠性、成本、体积、功耗有严格要求的专用计算机系统，它一般由嵌入式微处

## FPGA 助力 Python 加速计算 陈志勇 高级技术市场经理 安富利电子科技 2019年10月20日，深圳  ![Image](/uploads/documents/e/3/3/4/e334f61741573221602c5a3234497644/p1_2 之前基于python开发的工程师很少接触嵌入式环境，接触硬件 ➢ 本次题目的主要内容 Python <- tools -> FPGA ➢ 算法硬件加速：用FPGA的逻辑硬件实现算法加速 ➢ 算法如何在FPGA中实现？如何用“与或非”门电路去写算法？ ➢ 目前哪些 Xilinx FPGA 的开发工具支持 python 语言？ ➢ 目前Xilinx 工具支持python 的主要应用领域 ![Imag Python 与嵌入式计算 Python 工程师开发嵌入式产品的时候哪些地方可能会遇到性能瓶颈？ 传统的计算平台：基于通用处理器的架构，Intel x86 新的嵌入式计算平台：MCU，DSP，FPGA，GPU、ASSP等 ➢ 嵌入式计算： 嵌入式系统是以应用为中心，以计算机技术为基础，软硬件可裁剪，适用于应用系统对功能、可靠性、成本、体积、功耗有严格要求的专用计算机系统，它一般由嵌入式微处

## FPGA 助力 Python 加速计算 陈志勇 高级技术市场经理 安富利电子科技 2019年9月21日，上海  ![Image](/uploads/documents/c/6/c/3/c6c33b721996237c6148cbc4467f6b26/p1_2 之前基于python开发的工程师很少接触嵌入式环境，接触硬件 ➢ 本次题目的主要内容 Python <- tools -> FPGA ➢ 算法硬件加速：用FPGA的逻辑硬件实现算法加速 ➢ 算法如何在FPGA中实现？如何用“与或非”门电路去写算法？ 目前哪些 Xilinx FPGA 的开发工具支持 python 语言？ ➢ 目前Xilinx 工具支持python 的主要应用领域 ![Image Python 与嵌入式计算 Python 工程师开发嵌入式产品的时候哪些地方可能会遇到性能瓶颈？ 传统的计算平台：基于通用处理器的架构，Intel x86 新的嵌入式计算平台：MCU，DSP，FPGA，GPU、ASSP等 ➢ 嵌入式计算： 嵌入式系统是以应用为中心，以计算机技术为基础，软硬件可裁剪，适用于应用系统对功能、可靠性、成本、体积、功耗有严格要求的专用计算机系统，它一般由嵌入式微处

f/d/6/4/fd64bc2fb6b589e3488f94aabc1b7868/p1_2.jpg) ## 当Python遇上FPGA PYNQ开源项目的实践与体会 陆佳华 joshual@Xilinx.com 目录 CONTENTS >> FPGA 35th >> Computer Architecture Golden Age >> PYNQ 589e3488f94aabc1b7868/p3_2.jpg) ## FPGA 35th ## National Inventors Hall of Fame Integrated Circuit Jack Kilby, 1958 Moore's Law Gordon Moore, 1968 FPGA Ross Freeman, 1984  ## Field Programmable Gate Array ## FPGA ## Look-Up Tables (LUT) • Look-up table with N-inputs can be used to implement any combinatorial

## FPGA CNN Accelerator and TVM Elliott Delaye EXILINX ## TVM Target devices and models HW Platforms  , name=name) return out ## Example of FPGA node in TVM graph { "nodes": [ { "op": "null", "name": "data" (resize) FPGA Acceleration Post-Process (fc/softmax/nms) >> Streamlined multi-process pipeline using shared memory >> Usually need >4 Pre-Process cores running to keep up with FPGA >

8820/p7_8.jpg)  FPGA ASIC ## AutoTVM on μTVM Optimize TVM operators on microcontrollers by making use of AutoTVM https://github Shen, UW and AWS| |12:30|Lunch (boxed lunches will be provided), contributors meetup| |13:30|Building FPGA-Targeted Accelerators with HeteroCL - Zhiru Zhang, Cornell| |14:00|TVM @ Microsoft - Jon Soifer and

Runtime (VM, Graph Runtime, Interpreter) Your Dispatcher Target Device General Devices (CPU/GPU/FPGA) ## Mark supported operators or subgraphs 1. Implement an operator-level annotator, OR 2. Implement Runtime (VM, Graph Runtime, Interpreter) Your Dispatcher Target Device General Devices (CPU/GPU/FPGA) ## Mark supported operators or subgraphs 1. Implement extern operator functions, OR 2. Implement Runtime (VM, Graph Runtime, Interpreter) Your Dispatcher Target Device General Devices (CPU/GPU/FPGA) ## Mark supported operators or subgraphs 1. Implement extern operator functions, OR 2. Implement

jpg) 万一预加载比例低， 高压缩版本兜底 ## 语音+搜索 • 庞大成熟系统，可用性和效果要求极高 - 如何抵御突增的并发？ • 语音：专项定制高速模型 + 动态调度 + GPU/FPGA硬件优化 - 搜索：热点，多级Cache+漏斗控制，状态分级+相应策略集合 ✓Best Effort模式，非核心系统做限流 ✓L0准备状态，L1戒备状态，L2活动状态，L2+救急状态 活动准备 L1戒备状态 L2活动状态 春晚活动结束 L2状态准备 动态调度 L2+救急准备 L1状态准备 专项定制 高速模型 完整超大模型 海量算力池 GPU 00:30 CPU FPGA L1戒备状态 恢复常态 L2状态准备 - 抢红包强依赖项，海量用户瞬间涌入 - 多管齐下，多种登录手段，不能让用户等 与百度云、运营商、供应商共建： ✓短信验证码海量能力 √一键登录海量能力 ✓统一管理：流量漏斗，集群间负载 ✓超高性能+精细估算+全局共享+充足buffer ✓部分业务插件前置，为极端并发减少overhead Powered by Golang Powered by FPGA GOLANG  - 安全 ✓全面的防攻击：四层，七层，业务

测序需求多样，测序流程难以灵活自定义  - 结合FPGA加速计算可进一步压缩成本 ## 基于容器的生物信息分析平台  数据库 SFS/OBS 计算 BMS/ECS/FPGA HUAWEI 基于容器的应用流 ## 案例：企业级云容器服务，助力上海蓝鲸传媒容器化上云，提高SLA，降低人力成本 蓝鲸传媒是证券时报旗下，国内首家针对科技媒体人打造的工具型SaaS服务，包含新闻线索平台和记者编辑工作平台 ，参与容器格式及运行规范的定义与实现、积极贡献联邦集群、亲和反亲和等重要特性。 华为CCE在裸金属容器集群、windows容器、集群高可用、自动化运维、容器网络/存储、异构计算（ARM、GPU、FPGA）能力方面具有差 国内首发裸金属容器应对游戏高性能场景；独家提供ARM容器服务支撑低成本APP测试场景 全球首发云容器实例服务CCI：更快的弹性，更高的资源利用率；国内首发windows容器、