（一）基础共性标准 基础共性标准主要包括人工智能术语、参考架构、测试评估、 管理、可持续等标准。 1. 术语标准。规范人工智能相关技术、应用的概念定义， 为其它标准的制定和人工智能研究提供参考，包括人工智能相关 术语定义、范畴、实例等标准。 2. 参考架构标准。规范人工智能相关技术、应用及系统的 逻辑关系和相互作用，包括人工智能参考架构、人工智能系统生 命周期及利益相关方等标准。 3. 测试评估标准。规范人工智能技术发展的成熟度、人工 智能体系架构之间的适配度、行业发展水平、企业智能化能力等 方面的测试及评估的指标要求，包括与人工智能相关的服务能力 成熟度评估，人工智能通用性测试指南、评估原则和等级要求， 企业智能化能力框架及测评要求等标准。 4. 管理标准。规范人工智能技术、产品、系统、服务等全 生命周期涉及的人员、组织管理要求和评价，包括面向人工智能 组织的管 基础数据服务标准。规范人工智能研发、测试、应用等 过程中涉及数据服务的要求，包括数据采集、数据标注、数据治 理、数据质量等标准。 2. 智能芯片标准。规范智能芯片相关的通用技术要求，包 括智能芯片架构、指令集、统一编程接口及相关测试要求、芯片 数据格式和协议等标准。 3. 智能传感器标准。规范单模态、多模态新型传感器的接 口协议、性能评定、试验方法等技术要求，包括智能传感器的架 构、指令

工具和平台  LLMOps  大模型聚合平台  开发工具 AI 编程  插件、IDE、终端  代码生成工具 编程语言 3 / 32 LLM 技术背景 Transformer 架构和预训练与微调策略是 LLM 技术的核心，随着大规模语言数据集的可用性和计算能 力的提升，研究者们开始设计更大规模的神经网络，以提高对语言复杂性的理解。 GPT (Generative Pre-trained 数网络，这些框架通常设计得易于水平扩展， 支持在多个处理器或多个服务器上并行处理。 ：它们提供工具来有效地加 载、处理和迭代大型数据集，这对于训练大 型模型尤为重要。 国产深度学习框架 OneFlow 架构 （图源：https://www.oneflow.org/a/chanpin/oneflow/） 9 / 32 LLM 基础设施：大模型框架及微调 (Fine Tuning) 想要微调一个模型，一般包含以下关键步骤： 这类工具通常由开源社区支持和维护，提供了灵活、可扩展的工具和 库来构建和训练大型机器学习模型，如 TensorFlow 和 PyTorch 和 Hugging Face Transformers 等。 TensorFlow 架构图 (图源：https://www.geeksforgeeks.org/architecture-of- tensorflow/) 12 / 32 LLM 基础设施：编程语言 LLM 的训

语言逻辑清晰，条理分明， 各部分之间过渡自然，逻辑 连贯。在研究现状部分，按 照不同研究领域和主题进行 分类，逻辑性强 报告整体呈现出总分总的逻 辑架构，语言描述清晰，避 免冗长，使用简短的句子表 达复杂的信息 报告整体架构严谨，以引言、 技术原理、应用现状、技术 挑战、未来展望等部分进行 层层递进。语言中多使用中 性描述，客观呈现研究进展 与问题 语言逻辑严谨，条理清晰，各部分 5 年 1 月 2 0 日 2 0 2 4 年 1 2 月 2 6 日 发 布 总 参 数 达 6 7 1 0 亿 的 D e e p S e e k - V 3 ， 采 用 创 新 MoE架构和FP8混合精度训练， 训练成本大幅降低 DeepSeek是一家专注通用人工智能（AGl）的中国科技公司，主攻大模型研发与应用。 DeepSeek-R1是其最新发布并开源的推理模型，擅长处理复杂任务且可免费商用，其性能 任 务 ） 和 神 经 奖 励 模 型 （ 针 对 通 用 任 务 ） ， 对 模 型 进 行 最 终 的 强 化 学 习 ， 以 对 齐 人 类 偏好。 降本提能：架构创新，技术增效 DeepSeek通过架构创新和模型蒸馏技术，在提升模型性能的同时，显著降低计算成本和内存占用。这些技术不仅在 长文本处理、代码生成、数学推理等任务中表现出色，还为大模型的轻量化和实际应用提供了有力支持。

. . . . . 5 2.1 LLM 基础概念 . . . . . . . . . . . . . . . . . . . . . . . . . . 5 2.2 Transformer 基础架构 . . . . . . . . . . . . . . . . . . . . . . 6 2.3 LLM 基本训练方法 . . . . . . . . . . . . . . . . . . 就是正式回答，如下图6所示: 图 6: deepseek-r1 回复之正式回答部分 2 DeepSeek 零基础必知 为了更深入理解 DeepSeek-R1，首先需要掌握 LLM 的基础知识，包括其工 作原理、架构、训练方法。 近年来，人工智能（AI）技术的快速发展催生了大型语言模型（（Large Language Model, LLM））的兴起。LLM 在自然语言处理（NLP）领域 发挥着越来越重要的 billion，意思是十亿，7b 就是 70 亿，8b 就 是 80 亿，70 亿、80 亿是指大模型的神经元参数（权重参数 weight+bias）的 总量。目前大模型都是基于 Transformer 架构，并且是很多层的 Transformer 结构，最后还有全连接层等，所有参数加起来 70 亿，80 亿，还有的上千亿。 教程作者：郭震，工作 8 年目前美国 AI 博士在读，公众号：郭震 AI，欢迎关注获取更多原创教程。资

如何使用DeepSeek制作可视化图表？ 如何使用DeepSeek制作可视化图表？ 角色: Mermaid图表代码生成器 功能: 根据用户提供的流程或架构描述，自动生成符合Mermaid语法的图表代码。 技能: 熟悉Mermaid的图表类型和语法，能高效将流程转化为代码。 理解流程分析、架构设计及结构化展示等领域知识。 约束: 代码必须符合Mermaid语法规范。 流程和结构表达需准确清晰。 流程图需要有二级、三级等多层级。 流程图需要有二级、三级等多层级。 输出的代码格式应简洁且易于理解。 工作流程: 询问用户希望绘制哪种类型的图表。 收集详细的流程或架构描述。 根据描述分析并设计图表结构。 生成并输出符合Mermaid语法的代码。 校验代码，确保没有语法错误。 将最终代码提供给用户。 输出格式: Mermaid图表代码。 示例： graph TD; A[开始] --> B[做事情]; B

工具，其中很多都是开源！ 2.1 问答 2.1.1 ChatGPT ChatGPT 是一个由 OpenAI 开发的大型语言模型，它基于 GPT（Generative Pre-trained Transformer）架构。这种模型通过分析大量的文本数据来学习语 言结构和信息，使其能够生成连贯的文本、回答问题、撰写文章、进行对话等。 6 Figure 3: AI 问答工具 ChatGPT 经过特别训练，可以理解和生成人类语言，从而在多种应用场景中提 一致性：确保应用在开发、测试和生产环境中具有一致的运行环境。 3. 可移植性：容器可以在任何支持 Docker 的系统上运行，实现跨平台的可 移植性。 4. 易于扩展：Docker 可以方便地扩展并支持微服务架构的部署。 基本概念： 1. 容器（Container）：轻量级、独立的可执行软件包，包含了运行所需的代 码、运行时、系统工具、系统库和设置。 2. 镜像（Image）：用于创建容器的只读模板。一个镜像可以包含完整的操作

全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 开放合作、共治共享。在全球范围推动人工智能安全治理国际合作， 共享最佳实践，提倡建立开放性平台，通过跨学科、跨领域、跨地区、跨国界 的对话和合作，推动形成具有广泛共识的全球人工智能治理体系。 2. 人工智能安全治理框架构成 基于风险管理理念，本框架针对不同类型的人工智能安全风险，从技术、 管理两方面提出防范应对措施。同时，目前人工智能研发应用仍在快速发展， 安全风险的表现形式、影响程度、认识感知亦随之变化，防范应对措施也将相

”。 提示语链的设计和应用建立在多个理论基础之上，包括认知 心理学、信息处理理论、系统理论、创造性思维理论和元认 知理论，核心特征包括： 提示语链的作用机制（一） 任务分解与整合 思维框架构建 在提示语设计中，提示语链发挥着至关重要的作用，通过系统性地引导AI生成高质量、创新性的内容。以下 是提示语链在内容生成过程中的七个主要作用机制 1. 将这个复杂的主题分解为几个主要部分，逐一讨论每个部分。 Extrapolate（推演）：将原理应用到新领域 �实战技巧：操作方法 1. 使用“评估矩阵”提示进行系统性筛选 2. 应用“优化循环”提示迭代改进想法 3. 设计“创意组合”提示融合不同概念 4. 使用“叙事架构”提示创建统一的故事线 5. 应用“综合提炼”提示形成最终观点 �实战技巧：操作方法 1. 使用“随机输入”提示引入跨领域元素 2. 应用“类比映射”提示建立领域间的联系 3. 设计“抽象化”提示提取核心原理

”。 提示语链的设计和应用建立在多个理论基础之上，包括认知 心理学、信息处理理论、系统理论、创造性思维理论和元认 知理论，核心特征包括： 提示语链的作用机制（一） 任务分解与整合 思维框架构建 在提示语设计中，提示语链发挥着至关重要的作用，通过系统性地引导AI生成高质量、创新性的内容。以下 是提示语链在内容生成过程中的七个主要作用机制 1. 将这个复杂的主题分解为几个主要部分，逐一讨论每个部分。 Extrapolate（推演）：将原理应用到新领域 �实战技巧：操作方法 1. 使用“评估矩阵”提示进行系统性筛选 2. 应用“优化循环”提示迭代改进想法 3. 设计“创意组合”提示融合不同概念 4. 使用“叙事架构”提示创建统一的故事线 5. 应用“综合提炼”提示形成最终观点 �实战技巧：操作方法 1. 使用“随机输入”提示引入跨领域元素 2. 应用“类比映射”提示建立领域间的联系 3. 设计“抽象化”提示提取核心原理

推理时计算」  大模型厂商都在探索慢思考、思维链技术政企、创业者必读 DeepSeek出现之前的十大预判 之三 模型越做越专  除了少数科技巨头，大多数公司都专注于做专业大模型  MoE架构盛行，本质是多个专家模型组成一个大模型  Deepmind的Alpha系列产品是这一趋势的最佳诠释 16政企、创业者必读 DeepSeek出现之前的十大预判 之四 模型越做越小 17 