全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 ……………………………… 15 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。 1. 人工智能安全治理原则 秉持共同、综合 包容审慎、确保安全。鼓励发展创新，对人工智能研发及应用采取 包容态度。严守安全底线，对危害国家安全、社会公共利益、公众合法权益的 风险及时采取措施。 人工智能安全治理框架 （V1.0）- 2 - 人工智能安全治理框架 1.2 风险导向、敏捷治理。密切跟踪人工智能研发及应用趋势，从人工 智能技术自身、人工智能应用两方面分析梳理安全风险，提出针对性防范应对 措施。关注安全风险发展变化，

快速迭代发展，诸如 Dify.AI 的 LLMOps、Milvus 的向量 数据库、CodeGeeX 与 Comate 的 AI 编程、对 LLM Prompt 的研究、OneFlow 的深度学习框架。 值得一提的还有华为的盘古大模型，其中盘古气象大模型是 首个精度超过传统数值预报方法的 AI 模型，速度相比传统 数值预报提速 10000 倍以上，能够提供全球气象秒级预 报。盘古大模型的研究成果在国际顶级学术期刊《自然》正 场面”。 1 1 目录 一、开源开发者事件回顾 三、中国开发者开源新动向 二、2023 LLM 技术报告  46 | 向量数据库  47 | 数据库向量支持  48 | 大模型框架、微调  51 | 大模型训练平台与工具  53 | 编程语言  57 | 知名大模型  58 | 备案上线的中国大模型  21 | 硬核发版  26 | 热门话题  33 “零一万物”发布 Yi 系列开源大模型 Vercel 发布"v0"：根据文本生成 UI 代码 v0 是一款根据文本生成 UI 界面代码的 AI 产品，只要输入文字提示，即可生成 需要的 UI 组件界面。 智谱 AI 开源 ChatGLM-6B 大模型 GPT-4 发布不久后，一款让这个最强大语言模型能够自主完成任务的开源项 目——Auto-GPT 横空出世，在 AI 领域掀起巨大的波澜。它就像是赋予了

年的约 1,19 万 增加了约 21.2%。 1.2 指标解释 2、主要内容与发现 2.1 世界开源 Top10 项⽬ 活跃度最⾼的项⽬是来⾃⾕歌的前端跨平台开发框架 flutter/flutter，此外，源于⾕歌的深度 学习框架 tensorflow/tensorflow，容器编排系统 kubernetes/kubernetes 也分别位于第 5 名和第 6 名，这说明了⾕歌在开源上的努⼒和影响⼒获得了业内的认可。 个，除了蚂蚁⾦服采⽤ React 封装的⼀套组件库 ant-design/ant-design，基于 Ant Design 框架搭建的中后台管理控制台的脚⼿架 ant-design/ant-design-pro 和致⼒于配置和管理微 服务的特性集 alibaba/nacos 外，饿了么（已被阿⾥收购）的开源项⽬ ElmFE/element 作为 前端组件，表现也⼗分突出。 PingCAP 在 占据了 6 个项⽬，分 别是核⼼框架 Paddle 以及相关⼯具库、扩展版本和模型库 Models；此外开放⾃动驾驶平台 ApolloAuto/apollo 也榜上有名。 中国的 Top50 项⽬列表中，包括阿⾥的 Ant-Design 组件库，京东基于 React 前端框架的 开发框架 taro，由饿了么（已被阿⾥收购）前端团队开源的 Vue UI 组件库 Element 等等， 这说

管理员文档 配置说明 Weblate 部署 升级 Weblate 备份和移动 Weblate 身份验证 访问控制 翻译项目 语言定义 持续本地化 翻译许可 翻译进程 检查和修正 配置自动建议 附加组件 翻译记忆库 配置 配置的示例 管理命令 公告 部件列表 可选的 Weblate 模块 定制 Weblate 管理界面 从 Weblate 获取支持 法律文件 应用开发者指南 从国际化开始 与 Weblate 管理翻译 复查字符串 推广翻译 翻译进度报告 贡献者文档 为 Weblate 作贡献 开始为 Weblate 贡献代码 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 使用您的凭据填写注册表。 2. 使用电子邮件中收到的链接来激活注册账号。 3. 可以选择调整您的个人资料以选择您知道的语言。 操作面板 登录后，您将看到项目和组件的概述，以及它们各自的翻译进度。 默认情况下，将显示您正在监视的项目的组件，并与您的首选语言交叉引用。 提示 您可以使用导航选项卡切换到不同的视图。 菜单有以下选项： 项目 > 浏览所有项目 在主菜单中显示 Weblate 实例上每个项目的翻译状

管理员文档 配置说明 Weblate 部署 升级 Weblate 备份和移动 Weblate 身份验证 访问控制 翻译项目 语言定义 持续本地化 翻译许可 翻译进程 检查和修正 配置自动建议 附加组件 翻译记忆库 配置 配置的示例 管理命令 公告 部件列表 可选的 Weblate 模块 定制 Weblate 管理界面 从 Weblate 获取支持 法律文件 应用开发者指南 从国际化开始 与 Weblate 管理翻译 复查字符串 推广翻译 翻译进度报告 贡献者文档 为 Weblate 作贡献 开始为 Weblate 贡献代码 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 使用您的凭据填写注册表。 2. 使用电子邮件中收到的链接来激活注册账号。 3. 可以选择调整您的个人资料以选择您知道的语言。 操作面板 登录后，您将看到项目和组件的概述，以及它们各自的翻译进度。 在 2.5 版本加入. 默认情况下，将显示您正在监视的项目的组件，并与您的首选语言交叉引用。 提示 您可以使用导航选项卡切换到不同的视图。 菜单有以下选项： 项目 > 浏览所有项目 在主菜单中显示 Weblate

管理员文档 配置说明 Weblate 部署 升级 Weblate 备份和移动 Weblate 身份验证 访问控制 翻译项目 语言定义 持续本地化 翻译许可 翻译进程 检查和修正 配置自动建议 附加组件 翻译记忆库 配置 配置的示例 管理命令 公告 部件列表 可选的 Weblate 模块 定制 Weblate 管理界面 从 Weblate 获取支持 法律文件 应用开发者指南 从国际化开始 与 Weblate 管理翻译 复查字符串 推广翻译 翻译进度报告 贡献者文档 为 Weblate 作贡献 开始为 Weblate 贡献代码 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 使用您的凭据填写注册表。 2. 使用电子邮件中收到的链接来激活注册账号。 3. 可以选择调整您的个人资料以选择您知道的语言。 操作面板 登录后，您将看到项目和组件的概述，以及它们各自的翻译进度。 在 2.5 版本加入. 默认情况下，将显示您正在监视的项目的组件，并与您的首选语言交叉引用。 提示 您可以使用导航选项卡切换到不同的视图。 菜单有以下选项： 项目 > 浏览所有项目 在主菜单中显示 Weblate

管理员文档 配置说明 Weblate 部署 升级 Weblate 备份和移动 Weblate 身份验证 访问控制 翻译项目 语言定义 持续本地化 翻译许可 翻译进程 检查和修正 配置自动建议 附加组件 翻译记忆库 配置 配置的示例 管理命令 公告 部件列表 可选的 Weblate 模块 定制 Weblate 管理界面 从 Weblate 获取支持 法律文件 应用开发者指南 从国际化开始 与 Weblate 管理翻译 复查字符串 推广翻译 翻译进度报告 贡献者文档 为 Weblate 作贡献 开始为 Weblate 贡献代码 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 使用您的凭据填写注册表。 2. 使用电子邮件中收到的链接来激活注册账号。 3. 可以选择调整您的个人资料以选择您知道的语言。 操作面板 登录后，您将看到项目和组件的概述，以及它们各自的翻译进度。 在 2.5 版本加入. 默认情况下，将显示您正在监视的项目的组件，并与您的首选语言交叉引用。 提示 您可以使用导航选项卡切换到不同的视图。 菜单有以下选项： 项目 > 浏览所有项目 在主菜单中显示 Weblate

管理员文档 配置说明 Weblate 部署 升级 Weblate 备份和移动 Weblate 身份验证 访问控制 翻译项目 语言定义 持续本地化 翻译许可 翻译进程 检查和修正 配置自动建议 附加组件 翻译记忆库 配置 配置的示例 管理命令 公告 部件列表 可选的 Weblate 模块 定制 Weblate 管理界面 从 Weblate 获取支持 法律文件 应用开发者指南 从国际化开始 与 Weblate 管理翻译 复查字符串 推广翻译 翻译进度报告 贡献者文档 为 Weblate 作贡献 开始为 Weblate 贡献代码 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 使用您的凭据填写注册表。 2. 使用电子邮件中收到的链接来激活注册账号。 3. 可以选择调整您的个人资料以选择您知道的语言。 操作面板 登录后，您将看到项目和组件的概述，以及它们各自的翻译进度。 在 2.5 版本加入. 默认情况下，将显示您正在监视的项目的组件，并与您的首选语言交叉引用。 提示 您可以使用导航选项卡切换到不同的视图。 菜单有以下选项： 项目 > 浏览所有项目 在主菜单中显示 Weblate

管理员文档 配置说明 Weblate 部署 升级 Weblate 备份和移动 Weblate 身份验证 访问控制 翻译项目 语言定义 持续本地化 翻译许可 翻译进程 检查和修正 配置自动建议 附加组件 翻译记忆库 配置 配置的示例 管理命令 公告 部件列表 可选的 Weblate 模块 定制 Weblate 管理界面 从 Weblate 获取支持 法律文件 应用开发者指南 从国际化开始 与 Weblate 管理翻译 复查字符串 推广翻译 翻译进度报告 贡献者文档 为 Weblate 作贡献 开始为 Weblate 贡献代码 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 使用您的凭据填写注册表。 2. 使用电子邮件中收到的链接来激活注册账号。 3. 可以选择调整您的个人资料以选择您知道的语言。 操作面板 登录后，您将看到项目和组件的概述，以及它们各自的翻译进度。 在 2.5 版本加入. 默认情况下，将显示您正在监视的项目的组件，并与您的首选语言交叉引用。 提示 您可以使用导航选项卡切换到不同的视图。 菜单有以下选项： 项目 > 浏览所有项目 在主菜单中显示 Weblate

……………… 20 3.8 Java 开发框架 ……………………………………………………………………………………… 21 3.9 PHP 开发框架 ……………………………………………………………………………………… 21 3.10 Ruby 开发框架 …………………………………………………………………………………… 22 3.11 Go 开发框架 ……………………………………………………………………………………… ……………………………… 22 3.12 Node.js 开发框架 ………………………………………………………………………………… 23 3.13 Python 开发框架 ………………………………………………………………………………… 23 3.14 前端开发框架 …………………………………………………………………………………… 24 3.15 数据库……………………………………………………………………………………………… ………………………… 25 3.16 版本控制工具 …………………………………………………………………………………… 26 3.17 AI 开发框架 ……………………………………………………………………………………… 26 3.18 云原生组件 / 工具 ………………………………………………………………………………… 27 4 开源社区参与现状 …………………………………………………………………………