OctoML OSS 2019 11 8

• 语言: kor
• 格式: .pdf
• 来源: github.com/tvmai

摘要

OctoML是一家专注于使用Apache TVM项目构建深度学习部署解决方案的公司。文档介绍了OctoML的创始团队成员及其背景，并详细描述了公司在TVM开源社区的贡献，包括uTVM支持、虚拟机和动态形状支持的改进，以及TVM在FPGA和ASIC等硬件上的应用。文档还提到了TVM在不同领域的应用，如边缘计算和广告排名，并展望了未来的贡献方向。

AI总结

### 文档总结

1. **公司简介**
OctoML 是一家新兴公司，专注于使用 Apache TVM 项目构建深度学习部署解决方案。公司致力于培养 TVM 社区，并为 TVM 贡献新功能和基础设施。OctoML 的目标是通过开源协作推动深度学习模型的高效部署。

2. **创始团队（Octonauts）**
- **Luis Ceze**：联合创始人、CEO，计算机架构与编译器博士，华盛顿大学教授，Madrona Ventures 合伙人，曾就职于 IBM、微软和苹果。
- **Jason Knight**：联合创始人、CPO，计算生物学与机器学习博士，曾就职于 HLI、Nervana 和英特尔。
- **Tianqi Chen**：联合创始人、CTO，机器学习博士，卡内基梅隆大学教授。
- **Thierry Moreau**：联合创始人、架构师，计算机架构博士。
- **Jared Roesch**：联合创始人、架构师（即将加入），编程语言博士，40 多年计算机系统设计与机器学习经验。

3. **开源贡献**
OctoML 是 Apache TVM 项目的坚定支持者，赞助了多名员工参与 TVM 的开发，并在以下领域做出了贡献：
- **核心基础设施改进**：优化 TVM 的核心功能。
- **uTVM**：支持微控制器，目标为物联网和边缘设备。
- **虚拟机与动态神经网络支持**：与 AWS 合作，推动动态网络的实现。
- **NLP 支持**：专注于优化Transformer模型的性能。

4. **TVM Meetup 与社区活动**
- 2019 年 11 月 8 日，OctoML 在湾区举办了 TVM 社区见面会，吸引了 ASF 顾问、PMC 成员和 AWS 的支持。
- 年度 TVM 会议（TVMConf 2019）于 12 月 5 日在西雅图举办，涵盖多个主题演讲和技术分享，包括来自 AWS、Facebook、阿里巴巴、微软、ARM、Xilinx 等公司的技术分享。

5. **uTVM 介绍**
uTVM 是 TVM 的一个后端，可以直接插入 TVM 系统，支持微控制器的设备无关代码生成，目标市场为物联网和边缘计算设备。

6. **TVM 架构与技术亮点**
- **可微分 IR**：支持高级的张量表达和自动优化。
- **AutoTVM**：用于模型优化与硬件加速。
- **VTA（虚拟张量加速器）**：支持 FPGA 和 ASIC 的硬件加速。
- **LLVM、CUDA、RISC-V**：支持多种计算架构和编程模型。

总结：OctoML 通过 Apache TVM 项目推动深度学习模型的高效部署，其创始团队在计算机架构、机器学习和开源社区方面具有深厚背景。公司通过开源协作、社区活动和技术贡献，致力于为 TVM 提供更强大的功能支持，推动深度学习技术的落地应用。