Deploy VTA on Intel FPGA

• 语言: 英语
• 格式: .pdf
• 来源: github.com/tvmai

摘要

文档详细介绍了如何在Intel FPGA平台上部署VTA（Virtual Tensor Accelerator）的过程。内容包括硬件设置、软件驱动配置、CMA（Contiguous Memory Allocation）内存分配模块的使用以及具体的配置步骤。文档还提供了从下载工具、编译TVM到运行VTA的完整流程，并涉及了VTA在不同硬件上的配置参数和测试验证。

AI总结

### 总结：《Deploy VTA on Intel FPGA》

#### 1. **部署概述**
本文档主要介绍了在Intel FPGA平台上部署VTA（Valhalla Tensor Accelerator）的硬件和软件配置步骤。

---

#### 2. **硬件配置**
- **开发板**：使用DE10-Nano开发板。
- **FPGA工具链**：安装Quartus Prime 18.1 Lite Edition。
- **硬件接口**：
- 配置CMA（Contiguous Memory Allocator）内存模块，用于DMA操作。
- 配置物理内存地址映射，确保VTA与主机之间的通信。
- 使用AXI接口参数配置硬件 datapath。

---

#### 3. **软件部署**
- **环境准备**：
- 设置环境变量，包括编译工具链路径和目标架构。
- 下载并安装Linux内核模块`cma.ko`，并将其复制到开发板的根目录。
- **交叉编译**：
- 使用USE_VTA_FPGA标志交叉编译TVM（Tensor Virtual Machine）。
- 将编译后的TVM文件复制到SD卡中。
- **运行配置**：
- 启动内核模块`cma.ko`。
- 运行`start_rpc_server.sh`脚本启动VTA RPC服务。
- 配置`de10nano_config.json`文件并生成`.sof`文件，将其下载到硬件中。

---

#### 4. **API与功能**
- **CMA API**：
- 提供内存分配、释放和DMA地址获取功能。
- 使用`cma_alloc_cached`和`cma_alloc_noncached`分配缓存和非缓存内存。
- 使用`cma_get_phy_addr`获取物理地址。
- **VTADevice类**：
- 初始化和释放VTA硬件接口。
- 通过`Run`方法执行VTA指令，并等待硬件完成操作。

---

#### 5. **关键步骤**
- 硬件部署：
1. 配置CMA内存模块。
2. 生成并下载`.sof`文件到FPGA。
- 软件部署：
1. 交叉编译TVM并部署到开发板。
2. 启动VTA RPC服务并验证单元测试脚本。

---

#### 6. **总结**
本文档详细介绍了在Intel FPGA上部署VTA的硬件和软件配置流程，重点包括开发环境搭建、CMA模块配置、TVM交叉编译、硬件接口通信以及API的使用。通过这些步骤，可以实现VTA在Intel FPGA上的成功部署和运行。