-
TVM CAFFE 前端
2019·11·16
## TVM 在平头哥
• 工具链产品
平头哥芯片平台发布的配套软件中,
TVM 是工具链产品的重要组成部分:
负责将预训练好的 caffe 或者
tensorflow 的模型,转换到 LLVM
IR,最后生成可以在无剑 SoC 平台上
执行的二进制。
平头哥集成开发环境
统一应用开发框架
一键
应用部署
Caffe
TensorFlow 联合调试
## 为何添加 caffe 前端?
## 客户需求
评估阶段:客户用于评估芯片的网络,caffe 模型占很大比重。
## - 竞品已支持 caffe 前端
当前各大芯片厂商的部署工具大多数都支持,支持 caffe 前端有利于提高竞争力。
## - 开源社区
存量的开源 caffe 网络模型众多,TVM 直接支持 caffe 让大家更方便尝试 caffe 资源。
## 绝赞招聘中 绝赞招聘中
## 当前进度
## - 无 caffe 依赖
from_caffe 直接导入 caffe 模型文件,不需要预先安装 caffe。
## • net
已测试网络:alexnet / densenet121 / inception v1 / inception v3 / inception v4 / mobilenet v1 / mobilenet v2 / resnet50 / squeezenet
0 码力 |
6 页 |
326.80 KB
| 1 年前 3
-
2cb997f278e0dedcd/p3_9.jpg)
public/tensorflow:1.9.0-devel-v1
Caffe public/caffe:cpu-v1
Caffe public/caffe:gpu-v1
Caffe public/caffe:gpu-v2
## 训练服务
## • 提供基于 kubeflow 的分布式训练方案
- 界面化操作,用户提供代码地址和执行命令即可
0 码力 |
11 页 |
13.40 MB
| 1 年前 3
-
Amazon EMR
Amazon Lex
Spark & Spark ML
AI Services
AI Platforms
Apache MXNet TensorFlow
Caffe
Torch
Theano
CNTK
Keras
AI Engines
## Amazon AI: 新的深度学习服务

深度学习框架
MXNet, TensorFlow, Theano, Caffe, Torch
## Amazon AI: 新的深度学习服务

## 深度学习框架
MXNet, TensorFlow, Theano, Caffe, Torch
为客户模型定制的
深度学习框架
## AWS 深度学习AMI
高达 ~40k CUDA cores
MXNet
TensorFlow
Theano
Caffe
Torch
预配置的 CUDA 驱动
Anaconda, Python3
+ CloudFormation
0 码力 |
56 页 |
4.97 MB
| 2 年前 3
-
as NVIDIA GPU Cloud (NGC).
## Known Issues
Starting in 22.02 the PyTorch container does not build Caffe2 anymore. If scripted models were exported in the legacy format (using our 19.09 or previous NGC containers Network library $ ^{TM} $ (cuDNN) 7.4.2
NCCL 2.3.7 (optimized for NVLink $ ^{TM} $ )
OpenMPI 3.1.3
Caffe2
TensorRT 5.0.2
DALI 0.6 Beta
▶ Tensor Core optimized examples:
Neural Collaborative Filtering library $ ^{TM} $ (cuDNN) 7.4.1
NCCL 2.3.7 (optimized for NVLink $ ^{TM} $ )
APEx
OpenMPI 3.1.2
Caffe2
TensorRT 5.0.2
DALI 0.5.0 Beta
▶ Tensor Core Optimized Examples:
ResNet50 v1.5
GNMT v2
## Driver
0 码力 |
365 页 |
2.94 MB
| 2 年前 3
-
/2/e/5c2e6eae75c6e1e8fc992b18231afb2d/p4_1.jpg)
## PyTorch
2016.10 发布0.1,THNN后端
2018.12 发布1.0,CAFFE2后端
2019.5 发布1.1
Facebook AI Research
## 同类框架


Caffe



Caffe


Partner Development
0 码力 |
34 页 |
4.19 MB
| 2 年前 3
-
ago
| c10 | Remove TensorImpl::maybe_zero_dim. | 2 days ago |
| caffe2 | Remove all remaining usages of BUILD_NAMEDTENSOR (#31116) | 6 hours ag BUILD_NAMEDTENSOR (#31116) | 6 hours ago |
| docker | Migrate all the Caffe2 Centos builds to explicitly use devtoolset (#2... | 2 months ago |
| docs | 0 码力 |
12 页 |
34.16 MB
| 2 年前 3 -
12290;
## DEEPMAP
## 道路边线检测(Lane line Detection)
训练 (Training)
Caffe, Tensorflow
基于现有的模型
海量图像用来训练
推断(Inference)
TensorRT
Caffe & Tensorflow
## DEEPMAP
![Image](/uploads/documents/5/a/6/0/ 0 码力 |
34 页 |
56.04 MB
| 2 年前 3
|