TVM工具组

• 语言: 中文（简体）
• 格式: .pdf
• 来源: github.com/tvmai

摘要

文档介绍了TVM工具组在C平台上的应用，重点说明了支持Caffe前端的原因和需求。支持Caffe前端有助于提高芯片厂商的竞争力，方便用户使用开源Caffe网络模型。当前进度显示TVM工具组无需依赖Caffe，可以直接导入Caffe模型文件，并支持多种网络和操作符。TVM作为平头哥芯片平台的重要组成部分，负责将预训练的Caffe或TensorFlow模型转换为LLVM IR，最终生成可在无剑SoC平台上执行的二进制文件。

AI总结

《TVM工具组》是一款运行在C平台上的二进制工具，主要用于将预训练的Caffe或TensorFlow模型转换为LLVM中间表示（LLVM IR），并生成可在平头哥无剑SoC平台上执行的二进制文件。该工具组支持一键部署，集成于平头哥的统一应用开发框架中，提供图形化算力分析和联合调试功能。

**为何支持Caffe前端：**
1. **客户需求**：客户在芯片评估阶段，Caffe模型占据重要比重。
2. **竞争优势**：当前竞品多支持Caffe前端，支持Caffe可提升工具组的市场竞争力。
3. **开源资源**：Caffe拥有大量开源网络模型，支持Caffe前端便于开发者使用这些资源。

**当前进展：**
- 已支持的Caffe网络模型包括：AlexNet、Densenet121、Inception v1/v3/v4、Mobilenet v1/v2、ResNet50、Squeezenet v1、VGG16、SSD、Fcn-8s等。
- 已支持的操作符（Op）包括：InnerProduct、Conv2d、Reshape、Softmax、ReLU、Pooling、Concat、BatchNorm、Dropout、Scale、PReLU、Sigmoid、Tanh、Add、Deconvolution、Slice、Flatten、Normalize、Crop、Proposal、RoIPooling、Permute、PriorBox等。

**平头哥TVM Caffe前端**：
- 无需依赖Caffe环境，通过`from_caffe`直接导入Caffe模型文件。
- 作为平头哥芯片平台的重要工具链产品，TVM负责将模型转换为LLVM IR，最终生成可在无剑SoC平台上运行的二进制文件，支持异构计算和自定义AI加速器。

该工具组旨在为开发者提供高效的模型部署和调试能力，助力AI应用在平头哥芯片平台上的快速落地。