基础设施：编程语言 LLM 的训练和应用通常使用多种编程语言，取决于任务的需求和团 队的偏好。 。它的广泛使用得 益于其简洁的语法、强大的库支持（如 ）和深度学习框架（如 ）。 此外， ，C++ 有时 用于优化计算密集型任务，而 Java 在企业环境中处理模型部署和系 统集成方面常见。JavaScript 适用于 Web 环境的 LLM 应用。 13 / 32 LLM 基础设施：编程语言 年是大语言模型 (LLM) 之年，Python 作为人工智能领域使用度最高的编程语言，在 2023 年到底有多火？ 从各种开发者报告、编程语言榜单来看。只要出现有关编程语言流行度的排名， ，而 Java、C/C++ 等 同样在 LLM 开发中发挥关键作用的语言紧随其后。 14 / 32 LLM 基础设施：编程语言  2023 年 9 月面向大众开放 创业公司 Modular AI 开 发  结合了

innovation, 
 e.g. use (GA/RL/BayesOpt/your favorite ML method) for AutoSchedule 
 Easy shift to C++ when product readyInterpolate with Other Compilers MLIR-TF Function relay::Function TorchScript

overview data weight1 weight3 weight2 output Build() Your graph representation (e.g., JSON, C++, etc) CompileExternalLib() Subgraph binary/library/engine (e.g., so, JSON, etc)© 2019, Amazon Web

Service 8 8 6.952 。 C++ RPC (Merged into Masten 6 4 2.353 2. ， 曾硬证 0 Mobilenet 1.0

for object perception, but for path planning and vehicle controls. We replaced 330,000 lines of C++ code with neural nets. It's really quite remarkable. So, as a side note, I think Tesla is probably look in this room, it's very unlikely that more than a handful of people know how to program with C++, and an equal number know how to program in C. And yet, 100 percent of you know how to program in AI