LLM 技术报告 大语言模型（LLM） 技术作为人工智能领域的一项重要创 新在今年引起了广泛的关注。 LLM 是利用深度学习和大数据训练的人工智能系统，专门 设计来理解、生成和回应自然语言。这些模型通过分析大量 的文本数据来学习语言的结构和用法，从而能够执行各种语 言相关任务。以 GPT 系列为代表，LLM 以其在自然语言 处理领域的卓越表现，成为推动语言理解、生成和应用的引 擎。 LLM LLM 在多个领域都取得了令人瞩目的成就。在自然语言处 理领域，GPT 系列模型在文本生成、问答系统和对话生成 等任务中展现出色的性能。在知识图谱构建、智能助手开发 等方面，LLM 技术也发挥了关键作用。此外，它还在代码 生成、文本摘要、翻译等任务中展现了强大的通用性。 本报告从技术人视角出发，将深入探讨 LLM 技术的背景、 基础设施、应用现状，以及相关的工具和平台。 2 / 32 LLM Tech Tech Map  向量数据库  数据库向量支持  大模型框架、微调 (Fine Tuning)  大模型训练平台与工具 基础设施 LLM Agent  备案上线的中国大模型  知名大模型  知名大模型应用 大模型 算力 工具和平台  LLMOps  大模型聚合平台  开发工具 AI 编程  插件、IDE、终端  代码生成工具 编程语言 3 / 32

本质：以多agent实现从数据采集到可视全流程 模型特点 Claude 3.5 sonnet  平衡性能：在模型大小和 性能之间取得平衡，适合 中等规模任务。  多模态支持：支持文本和 图像处理，扩展应用场景。  可解释性：注重模型输出 的可解释性和透明性。 DeepSeek R1  高效推理：专注于低延迟和 高吞吐量，适合实时应用。  轻量化设计：模型结构优化， 资源占用少，适合边缘设备 提供高精度结果。  长文本处理：擅长处理长文本 和复杂文档，适合专业场景。  定制化能力：支持用户自定义 训练和微调，适应特定需求。 Open AI o3 mini  小型化设计：轻量级模型， 适合资源有限的环境。  快速响应：优化推理速度， 适合实时交互场景。  通用性强：适用于多种自 然语言处理任务，如对话 生成和文本理解。 爬虫数据采集 1、阅读网页源代码，提取特定网页内容； 5支持联网查询网址，Claude 3.5 sonnet暂不支持；  四个模型均能根据上传的网页代码，对多个网址链接进行筛选、去重，完全提取出符合指令要求的所有网址链接并形成列表；  在复杂爬虫任务上，DeepSeek R1与Open AI o3min生成的代码均能正常执行数据采集任务，o3响应速度更快，R1数据采集结果更加完 整准确；其他2个模型都存在多次调试但代码仍然运行不成功的问题，如代码中罗列URL不全、输出文本中提取数据为空等。

1 1 /*使用电脑阅读，获得最佳体验 1 1 序 毫无疑问，开源开发者圈子来看，2023 年是大模型 LLM 年、生成式 AI GenAI 年。 一、 这自然要从 OpenAI 说起，前一年年底，ChatGPT 的横 空出世，标志着对话式 LLM 开始进入公众视野，为人们 提供了全新的人机交互方式。而 2023 年 3 月，同系 GPT-4.0 的发布则将 LLM 的规模和能力提升到一个新 Google 紧随其后推出 Bard，作为其首次亮相的对话 LLM 产品，无疑具有其里程碑意义，尽管它的首秀并不尽 如人意，车翻了又翻。 三、 Claude 2、PaLM 2、Llama 等模型与产品也展现了 LLM 在语言理解和多模态处理能力方面的探索，甚至 Claude 2 还一度被誉为实力可以硬刚 ChatGPT。而 Meta 开源的 Llama 2 更成为了 LLM 领域开源势力的典型代表，它的 广大的个人用户和创意行业提供了强有力的工具，彻底改变 了数字艺术内容的创作方式。同时，它们也引发了人工智能 在创作领域的伦理和法律讨论。LLM 杀进多媒体领域。往 后 DALL-E 3 模型升级、Adobe 产品整合 LLM 能力、 语音模型 whisper-3 更新、AI 虚拟主播创造等，都是在 这条路上的进一步发展。 五、 AI 编程方面，Copilot 可以根据开发者的代码提示自动补 全代码，大大

（NaN），⽬的是进⼀步运营和发展Blender。NaN的核⼼⽬标是创建 发⾏⼀款紧凑且跨平台的免费3D创作套件。这⼀想法在⼤多数商业建 模软件都要卖上千美元的当时是⾰命性的。NaN希望将专业3D建模和 动画⼯具带给⼀般⼈，其商业模型包括了提供Blender周边的商业产品 和服务。1999年NaN为了推⼴Blender⽽第⼀次参加了Siggraph⼤会。 Blender的第⼀次Siggraph之旅获得了巨⼤成功，受到了媒体和出席者 发布包含 Apricot 项⽬ 的成果。 2.49 -- 2009年6⽉: 基于节点的纹理、⾻架草图（又称作Etch-a-Ton）、 布尔⽹格操 作改进、 JPEG2000 ⽀持、针对图像直接传⼊模型的投影绘制， 和Python 脚本分类。游戏引擎的增强功能包括视频纹理（可以在 游戏中播放视频），升级到bullet的物理引擎，圆顶（鱼眼）渲 染，并提供更多可⽤的 API 游戏引擎调⽤。 Blender to hide their internal sub-groups from the final user. 当⼀个节点组被创建时，新的 组输⼊ 和 组输出 节点被⽣成，以表⽰进⼊ 和离开该组的数据流。此外，来⾃未选择的节点的输⼊接⼜的连接将被连 接到 组输⼊ 节点上的新接⼜。同样，来⾃未被选中的节点的输⼊接⼜的出 站连接将被连接到新的 组输出 节点。 如果你想把⼀个额外的参数传⼊组中，必须在

（NaN），⽬的是进⼀步运营和发展Blender。NaN的核⼼⽬标是创建 发⾏⼀款紧凑且跨平台的免费3D创作套件。这⼀想法在⼤多数商业建 模软件都要卖上千美元的当时是⾰命性的。NaN希望将专业3D建模和 动画⼯具带给⼀般⼈，其商业模型包括了提供Blender周边的商业产品 和服务。1999年NaN为了推⼴Blender⽽第⼀次参加了Siggraph⼤会。 Blender的第⼀次Siggraph之旅获得了巨⼤成功，受到了媒体和出席者 发布包含 Apricot 项⽬ 的成果。 2.49 -- June 2009: 基于节点的纹理、⾻架草图（又称作Etch-a-Ton）、 布尔⽹格操 作改进、 JPEG2000 ⽀持、针对图像直接传⼊模型的投影绘制， 和Python 脚本分类。游戏引擎的增强功能包括视频纹理（可以在 游戏中播放视频），升级到bullet的物理引擎，圆顶（鱼眼）渲 染，并提供更多可⽤的 API 游戏引擎调⽤。 Blender hide their internal sub-groups from the final user. 界⾯ 当⼀个节点组被创建时，新的 组输⼊ 和 组输出 节点被⽣成，以表⽰进⼊ 和离开该组的数据流。此外，来⾃未选择的节点的输⼊接⼜的连接将被连 接到 组输⼊ 节点上的新接⼜。同样，来⾃未被选中的节点的输⼊接⼜的出 站连接将被连接到新的 组输出 节点。 如果你想把⼀个额外的参数传⼊组中，必须在

（NaN），⽬的是进⼀步运营和发展Blender。NaN的核⼼⽬标是创建发⾏⼀款 紧凑且跨平台的免费3D创作套件。这⼀想法在⼤多数商业建模软件都要卖上 千美元的当时是⾰命性的。NaN希望将专业3D建模和动画⼯具带给⼀般⼈，其 商业模型包括了提供Blender周边的商业产品和服务。1999年NaN为了推⼴ Blender⽽第⼀次参加了Siggraph⼤会。Blender的第⼀次Siggraph之旅获得了巨 ⼤成功，受到了媒体和出席 Python编辑改进。此次发布包含 Apricot 项⽬ 的成果。 2.49 -- 2009年6⽉: 基于节点的纹理、⾻架草图 （又称作Etch-a-Ton)、 布尔⽹格操作改进、 JPEG2000 ⽀持、针对图像直接传⼊模型的投影绘制、和Python 脚本分类。 游戏引擎的增强功能包括视频纹理（可以在游戏中播放视频），升级到 bullet的物理引擎，圆顶 (鱼眼） 渲染，并提供更多可⽤的 API 游戏引擎调 ⽤。 Blender 包含其他节点组）。 Note 所有节点系统都禁⽌递归节点组以防⽌⽆ 限递归。节点组永远不能包含⾃⾝。 界⾯ 当⼀个节点组被创建时，新的 组输⼊ 和 组输出 节点被⽣成，以表⽰进⼊和离 开该组的数据流。此外，来⾃未选择的节点的输⼊套接字的连接将被连接到 ⾯板: 组输⼊ 节点上的新套接字。同样地，来⾃未被选中的节点的输⼊套接字的出 站连接将被连接到新的 组输出 节点。 如果你想把⼀个额外的参数传⼊组中，必须在

（NaN），⽬的是进⼀步运营和发展Blender。NaN的核⼼⽬标是创建发⾏⼀款 紧凑且跨平台的免费3D创作套件。这⼀想法在⼤多数商业建模软件都要卖上 千美元的当时是⾰命性的。NaN希望将专业3D建模和动画⼯具带给⼀般⼈，其 商业模型包括了提供Blender周边的商业产品和服务。1999年NaN为了推⼴ Blender⽽第⼀次参加了Siggraph⼤会。Blender的第⼀次Siggraph之旅获得了巨 ⼤成功，受到了媒体和出席 Python编辑改进。此次发布包含 Apricot 项⽬ 的成果。 2.49 -- 2009年6⽉: 基于节点的纹理、⾻架草图 （又称作Etch-a-Ton)、 布尔⽹格操作改进、 JPEG2000 ⽀持、针对图像直接传⼊模型的投影绘制、和Python 脚本分类。 游戏引擎的增强功能包括视频纹理（可以在游戏中播放视频），升级到 bullet的物理引擎，圆顶 (鱼眼） 渲染，并提供更多可⽤的 API 游戏引擎调 ⽤。 Blender 包含其他节点组）。 Note 所有节点系统都禁⽌递归节点组以防⽌⽆ 限递归。节点组永远不能包含⾃⾝。 界⾯ 当⼀个节点组被创建时，新的 组输⼊ 和 组输出 节点被⽣成，以表⽰进⼊和离 开该组的数据流。此外，来⾃未选择的节点的输⼊套接字的连接将被连接到 ⾯板:: 组输⼊ 节点上的新套接字。同样地，来⾃未被选中的节点的输⼊套接字的出 站连接将被连接到新的 组输出 节点。 如果你想把⼀个额外的参数传⼊组中，必须在

（NaN），⽬的是进⼀步运营和发展Blender。NaN的核⼼⽬标是创建发⾏⼀款 紧凑且跨平台的免费3D创作套件。这⼀想法在⼤多数商业建模软件都要卖上 千美元的当时是⾰命性的。NaN希望将专业3D建模和动画⼯具带给⼀般⼈，其 商业模型包括了提供Blender周边的商业产品和服务。1999年NaN为了推⼴ Blender⽽第⼀次参加了Siggraph⼤会。Blender的第⼀次Siggraph之旅获得了巨 ⼤成功，受到了媒体和出席 Python编辑改进。此次发布包含 Apricot 项⽬ 的成果。 2.49 -- 2009年6⽉: 基于节点的纹理、⾻架草图（又称作Etch-a-Ton）、 布尔⽹格操作改进、 JPEG2000 ⽀持、针对图像直接传⼊模型的投影绘制，和Python 脚本分 类。游戏引擎的增强功能包括视频纹理（可以在游戏中播放视频），升级 到bullet的物理引擎，圆顶（鱼眼）渲染，并提供更多可⽤的 API 游戏引 擎调⽤。 Blender 节点组可以嵌套（也就是说，节点组可以包含其他节点组）。 Note 所有节点系统都禁⽌递归节点组以防⽌⽆限递归。节点组永远不能包含⾃⾝。 界⾯ 当⼀个节点组被创建时，新的 组输⼊ 和 组输出 节点被⽣成，以表⽰进⼊和离 开该组的数据流。此外，来⾃未选择的节点的输⼊接⼜的连接将被连接到 组 输⼊ 节点上的新接⼜。同样，来⾃未被选中的节点的输⼊接⼜的出站连接将 被连接到新的 组输出 节点。 如果你想把⼀个额外的参数传⼊组中，必须在

（NaN），⽬的是进⼀步运营和发展Blender。NaN的核⼼⽬标是创建发⾏⼀款 紧凑且跨平台的免费3D创作套件。这⼀想法在⼤多数商业建模软件都要卖上 千美元的当时是⾰命性的。NaN希望将专业3D建模和动画⼯具带给⼀般⼈，其 商业模型包括了提供Blender周边的商业产品和服务。1999年NaN为了推⼴ Blender⽽第⼀次参加了Siggraph⼤会。Blender的第⼀次Siggraph之旅获得了巨 ⼤成功，受到了媒体和出席 Python编辑改进。此次发布包含 Apricot 项⽬ 的成果。 2.49 -- 2009年6⽉: 基于节点的纹理、⾻架草图（又称作Etch-a-Ton）、 布尔⽹格操作改进、 JPEG2000 ⽀持、针对图像直接传⼊模型的投影绘制，和Python 脚本分类。 游戏引擎的增强功能包括视频纹理（可以在游戏中播放视频），升级到 bullet的物理引擎，圆顶（鱼眼）渲染，并提供更多可⽤的 API 游戏引擎调 ⽤。 Blender 包含其他节点组）。 Note 所有节点系统都禁⽌递归节点组以防⽌⽆ 限递归。节点组永远不能包含⾃⾝。 界⾯ 当⼀个节点组被创建时，新的 组输⼊ 和 组输出 节点被⽣成，以表⽰进⼊和离 开该组的数据流。此外，来⾃未选择的节点的输⼊接⼜的连接将被连接到 组 ⾯板:: 输⼊ 节点上的新接⼜。同样，来⾃未被选中的节点的输⼊接⼜的出站连接将 被连接到新的 组输出 节点。 如果你想把⼀个额外的参数传⼊组中，必须在

（NaN），⽬的是进⼀步运营和发展Blender。NaN的核⼼⽬标是创建发⾏⼀款 紧凑且跨平台的免费3D创作套件。这⼀想法在⼤多数商业建模软件都要卖上 千美元的当时是⾰命性的。NaN希望将专业3D建模和动画⼯具带给⼀般⼈，其 商业模型包括了提供Blender周边的商业产品和服务。1999年NaN为了推⼴ Blender⽽第⼀次参加了Siggraph⼤会。Blender的第⼀次Siggraph之旅获得了巨 ⼤成功，受到了媒体和出席 Python编辑改进。此次发布包含 Apricot 项⽬ 的成果。 2.49 -- 2009年6⽉: 基于节点的纹理、⾻架草图（又称作Etch-a-Ton）、 布尔⽹格操作改进、 JPEG2000 ⽀持、针对图像直接传⼊模型的投影绘制，和Python 脚本分类。 游戏引擎的增强功能包括视频纹理（可以在游戏中播放视频），升级到 bullet的物理引擎，圆顶（鱼眼）渲染，并提供更多可⽤的 API 游戏引擎调 ⽤。 Blender 包含其他节点组）。 Note 所有节点系统都禁⽌递归节点组以防⽌⽆ 限递归。节点组永远不能包含⾃⾝。 界⾯ 当⼀个节点组被创建时，新的 组输⼊ 和 组输出 节点被⽣成，以表⽰进⼊和离 开该组的数据流。此外，来⾃未选择的节点的输⼊接⼜的连接将被连接到 组 ⾯板: 输⼊ 节点上的新接⼜。同样，来⾃未被选中的节点的输⼊接⼜的出站连接将 被连接到新的 组输出 节点。 如果你想把⼀个额外的参数传⼊组中，必须在