针对人工智能应用安全风险 ………………………… 9 5. 综合治理措施 ……………………………………………… 10 6. 人工智能安全开发应用指引 ……………………………… 12 6.1 模型算法研发者安全开发指引 ……………………… 12 6.2 人工智能服务提供者安全指引 ……………………… 13 6.3 重点领域使用者安全应用指引 ……………………… 14 6.4 社会公众安全应用指引 制和方式，对确需政府监管事项及时予以响应。 1.3 技管结合、协同应对。面向人工智能研发应用全过程，综合运用技术、 管理相结合的安全治理措施，防范应对不同类型安全风险。围绕人工智能研发 应用生态链，明确模型算法研发者、服务提供者、使用者等相关主体的安全责 任，有机发挥政府监管、行业自律、社会监督等治理机制作用。 1.4 开放合作、共治共享。在全球范围推动人工智能安全治理国际合作， 共享最佳实践，提倡 优化完善。 2.1 安全风险方面。通过分析人工智能技术特性，以及在不同行业领域 应用场景，梳理人工智能技术本身，及其在应用过程中面临的各种安全风险 隐患。 2.2 技术应对措施方面。针对模型算法、训练数据、算力设施、产品服务、 应用场景，提出通过安全软件开发、数据质量提升、安全建设运维、测评监测 加固等技术手段提升人工智能产品及应用的安全性、公平性、可靠性、鲁棒性- 3 - 人工智能安全治理框架

很多公司参与开源，帮助改进产品，众人拾柴火焰高， 反哺开源产品，形成正循环政企、创业者必读 DeepSeek出现之前的十大预判 之十 中美差距快速缩小  美国预训练堆算力的路线不可持续，有待发现新范式“换道超车”  软件和算法差距并不大，主要差距在工程、硬件等方面 23政企、创业者必读 DeepSeek的出现验证了我们的预判 而DeepSeek的创新更具颠覆性 24政企、创业者必读 DeepSeek是完美的颠覆式创新 34政企、创业者必读 成本的急剧降低  DeepSeek可适配国产硬件，促进国产硬件发展  DeepSeek的优化降低对推理硬件的要求，减少推理成本  训练成本降低，堆显卡模式受质疑，探索新思路，算法优化空间大  无需训练自己的基座模型，直接部署在DeepSeek上，不用重复发明轮子  公开蒸馏方法，帮助其他模型提升能力，实现了模型制造模型，犹如工业母机  小模型可部署在企业内电脑或一体机上，使用成本降低，形成分布式推理网络 控制 • 废品无人天车吊装控制 • 铁水质量预报 • 高炉温度分布 • 高炉燃料比监测 • 高炉精准出铁预测 • 高炉炉况诊断 • 高炉燎铁能耗预测 • 高炉在含量智能预监 • 铁包动态调度算法(铁包 跟踪) • 烟气余热回收控制 • 部署工艺模型分析诊断 • 能源诊断分析 • 建设质量工艺动态设计 优化 • 堆堵料异常检测 • 炼铁原料混匀过程调度 优化 • 风机风压参数实时捕捉

提示词集。 三 效果如何？ 元知AI综述工具 元知是国内由清华、北航专家团队研发的一个AI学术平台，目前其AI综述生成工具已开放使用，能够帮助用户从海 量文献中提取核心信息，通过自然语言处理算法，实现从文献梳理到观点提取到研究评论的一键式全自动生成。 产品 概况 功能亮点 功能亮点  多版本与模块化支持：目前提供三个版本（基础版、增 强版、专业版），能够灵活应对不同用户的综述需求。 发展。其低成本高性 能的模型降低了大模型的投资、开发、运营成本，推动了国产AI芯片、 云平台、操作系统等产业的发展。 技术深化：突破局限，能力提升 DeepSeek R1展示了强化学习技术和算法创新在 AI 领域的巨大潜力，但其仍然处于发展阶段，存在一定局限性和优化 空间。未来，随着技术的不断进步和创新，DeepSeek R1 可能会在以下几个方面实现进一步的突破： 通用能力提升 解决语言混杂问题 自动化处理财务报表，挖掘隐藏的投资机会， 评估潜在风险，优化资产配置策略。 数据分析 DeepResearch整合全球金融市 场动态，实时追踪行业趋势，为 投资者提供深度分析。 市场洞察 运用先进算法预测市场走势，辅助金融机 构和个人投资者做出更明智的选择。 智能预测 一键生成专业级投资风险评估报告， 支持定制化需求，提升决策效率。 报告生成 通过自动化数据收集、整合、推理与报告输出

情景还原：台风突袭导致孕期34周妻子被困郊区、数据中心备用电源仅能维持4小时、急需转移独居失智老 人、社区抢购导致物资短缺 DeepSeek应急协议： ① 资源热力图： 实时整合气象局数据/道路塌方报告/医院接诊状态 物资预测算法锁定3公里内未饱和便利店 ② 生命线工程： 孕妇救援通道： ✓ 自动生成医疗档案二维码 ✓ 无人机勘察可行路线 ✓ 协调民间救援队GPS定位 老人转移方案： ✓ 调取智能手环历史活动轨迹 ✓ 社区志愿者网络即时广播 “为什么选择梯度下降法解 决此优化问题？请对比其他 算法 。 ” 触发模型自解释能力 可能偏离核心目标 从 “ 下达指令 ”到 “ 表达需求 ” 如何提问？让AI一次性生成你想要的东西 学会问问题和挑选答案的能力时代 AI生成循环边界：突破框架 融合百家 AI：与人工智能中的学习 模型和认知结构紧密相关， 反映了其受限于现有算法 和数据。 认知：与哲学、认知科学 中的认知框架和自指性理 体系和分析创新条件，探索智能体如何推动知识生成从常规化迈 向创新化。 智能体知识循环边界的研究 智能体在长时间对话中常表现出“知识循环边界”，即生成内容 重复或局限于特定模式的现象，源于训练数据、算法模型及预设 规则的限制。这一现象与逻辑学中的自指问题（如罗素悖论、哥 德尔定理）相关。 研究通过实验分析问题类型（全收敛、半收敛、非收敛）和对话 次数（50次、100次、150次）对生成内容相似性与创新性的影响，

改变工业生 产模式和经济发展形态，将对加快建设制造强国、网络强国 和数字中国发挥重要的支撑作用。人工智能产业链包括基础 层、框架层、模型层、应用层等 4 个部分。其中，基础层主 要包括算力、算法和数据，框架层主要是指用于模型开发的 深度学习框架和工具，模型层主要是指大模型等技术和产 品，应用层主要是指人工智能技术在行业场景的应用。近年 来，我国人工智能产业在技术创新、产品创造和行业应用等 键 技术、智能产品与服务、赋能新型工业化、行业应用、安全 /治理等 7 个部分，如图 1 所示。其中，基础共性标准是人 工智能的基础性、框架性、总体性标准。基础支撑标准主要 规范数据、算力、算法等技术要求，为人工智能产业发展夯 实技术底座。关键技术标准主要规范人工智能文本、语音、 图像，以及人机混合增强智能、智能体、跨媒体智能、具身 智能等的技术要求，推动人工智能技术创新和应用。智能产 智能体基本功能、应用架构等技术要求，包括智能体强化学习、 多任务分解、推理、提示词工程，智能体数据接口和参数范围， 人机协作、智能体自主操作、多智能体分布式一致性等标准。 10. 群体智能标准。规范群体智能算法的控制、编队、感知、 规划、决策、通信等技术要求和评测方法，包括自主控制、协同 控制、任务规划、路径规划、协同决策、组网通信等标准。 11. 跨媒体智能标准。规范文本、图像、视频、音频等多模

慢速思考，算力成本高 运算原理 基于概率预测，通过大量数据训练来快速预测可能 的答案 基于链式思维（Chain-of-Thought），逐步推理 问题的每个步骤来得到答案 决策能力 依赖预设算法和规则进行决策 能够自主分析情况，实时做出决策 创造力 限于模式识别和优化，缺乏真正的创新能力 能够生成新的创意和解决方案，具备创新能力 人机互动能力 按照预设脚本响应，较难理解人类情感和意图 更自然地与人互动，理解复杂情感和意图 兼顾目标与细节 ❌ 需避免过度约束 启发式提问 通过提问引导模型主 动思考（如“为什 么”“如何”） 探索性问题、需模型解 释逻辑 “为什么选择梯度下降法解 决此优化问题？请对比其他 算法。” ✅ 触发模型自解释能力 ❌ 可能偏离核心目标 任务需求与提示语策略 任务类型 适用模型 提示语侧重点 示例（有效提示） 需避免的提示策略 数学证明 推理模型 直接提问，无需分步引导 认 知 • 深度阅读场景决定了内容结构需层次分明，重视逻辑传递 • 规范体系下的提示语设计需符合平台规则，避免触碰敏感 词 • 互动机制为提示语优化提供数据基础，可持续迭代改进 �平台特性与算法机制 �选题规划提示语 选题规划提示的核心在于明确内容定位与读者价值。典型的 提示语模板： 应用示例 任务目标：生成[具体领域]的选题规划 背景信息： - 账号定位：[填写定位] - 目标读者：[读者画像]

慢速思考，算力成本高 运算原理 基于概率预测，通过大量数据训练来快速预测可能 的答案 基于链式思维（Chain-of-Thought），逐步推理 问题的每个步骤来得到答案 决策能力 依赖预设算法和规则进行决策 能够自主分析情况，实时做出决策 创造力 限于模式识别和优化，缺乏真正的创新能力 能够生成新的创意和解决方案，具备创新能力 人机互动能力 按照预设脚本响应，较难理解人类情感和意图 更自然地与人互动，理解复杂情感和意图 兼顾目标与细节 ❌ 需避免过度约束 启发式提问 通过提问引导模型主 动思考（如“为什 么”“如何”） 探索性问题、需模型解 释逻辑 “为什么选择梯度下降法解 决此优化问题？请对比其他 算法。” ✅ 触发模型自解释能力 ❌ 可能偏离核心目标 任务需求与提示语策略 任务类型 适用模型 提示语侧重点 示例（有效提示） 需避免的提示策略 数学证明 推理模型 直接提问，无需分步引导 认 知 • 深度阅读场景决定了内容结构需层次分明，重视逻辑传递 • 规范体系下的提示语设计需符合平台规则，避免触碰敏感 词 • 互动机制为提示语优化提供数据基础，可持续迭代改进 �平台特性与算法机制 �选题规划提示语 选题规划提示的核心在于明确内容定位与读者价值。典型的 提示语模板： 应用示例 任务目标：生成[具体领域]的选题规划 背景信息： - 账号定位：[填写定位] - 目标读者：[读者画像]

b5df081) 10 / 32 LLM 基础设施：大模型训练平台与工具 大模型训练平台和工具提供了强大且灵活的基础设施，使得开发和训练复杂的语言模型变得可行且高 效。 这些工具提供了先进的算法、预训练模型和优化技术，极大地简化了模型开发过程，加速了实验周期， 并使得模型能够更好地适应各种不同的应用场景。此外，它们还促进了学术界和工业界之间的合作与 知识共享，推动了自然语言处理技术的快速发展和广泛应用。