全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 ……………………………… 15 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。 1. 人工智能安全治理原则 秉持共同、综合 包容审慎、确保安全。鼓励发展创新，对人工智能研发及应用采取 包容态度。严守安全底线，对危害国家安全、社会公共利益、公众合法权益的 风险及时采取措施。 人工智能安全治理框架 （V1.0）- 2 - 人工智能安全治理框架 1.2 风险导向、敏捷治理。密切跟踪人工智能研发及应用趋势，从人工 智能技术自身、人工智能应用两方面分析梳理安全风险，提出针对性防范应对 措施。关注安全风险发展变化，

www.iresearch.com.cn 基础软件开源界限划分 操作系统、数据库、中间件、AI框架底层代码按规范进行共享与协作 本篇报告研究的基础软件开源范围，是指研究“开源”中“基础软件”板块的情况。开源过程中，参与者可以共享、协作完成开发， 正好与基础软件庞大的开发量需求相契合。这种契合性 对于这四类基础软件（操作系统、数据库、AI框架、中间件），其编写者将实现功能的代码按照一定的开源规范 开放，任何人可以查看、使用、贡献，同时，使用者也要遵循一定的开源规范。 基础软件开源范畴界定 国内基础软件开源界定 基础软件 具备能衍生出并支撑 多个技术簇的一类根 技术软件，拥有技术 门槛高、衍生场景复 杂等特点 中间件：不同系统和应用程序之间交互 与协作的桥梁 AI框架：具备构建和部署人工智能模型 www.iresearch.com.cn 中国基础软件开源产业主要参与者图谱 来源：根据专家访谈、公开资料，由艾瑞咨询研究院自主研究及绘制。 中间件 操作系统 AI框架 数据库 开源技术论坛 开源产业联盟 开源组织 基础软件开源项目 开源基金会 开源社区评估机构 X-Deep Learning 开源代码托管平台 11 ©2023.11 iResearch

18，将自动启用 Git 提交历史图形化展示功能 Last 2 versions of Chrome, Firefox, Safari and Edge Firefox ESR Web框架： Chi ORM: XORM UI 框架： jQuery Fomantic UI Vue3 更多组件参见 package.json 编辑器： CodeMirror EasyMDE Monaco Editor http://your_gitea.com/owner/repo@branch 。 Gitea Actions支持使用Go编写Actions。 请参阅创建Go Actions。 这是用于一次运行一个Job。 请参阅使用并发。 Gitea Actions目前不支持此功能。 这是工作流生成的工作流运行的名称。 请参阅GitHub Actions 的工作流语法。 Gitea Actions目前不支持此功能。 请参阅GitHub 方向。 通信协议 网络架构 Gitea Actions设计 - 163 - 本文档使用 书栈网 · BookStack.CN 构建 act runner 必须能够连接到Gitea以接收任务并发送执行结果回来。 即使Job容器位于同一台机器上，它们的网络命名空间与Runner不同。 举个例子，如果工作流中包含 actions/checkout@v3 ，Job容器需要连接到Gitea来获取代码。

⼀⽅⾯，是开源这么多年⼀直持续的上升势头。⽽另⼀⽅⾯，则是我们的⼀个猜测：疫情以 来，越来越多的⼈开始远程办公，事实上促进了更多的⼈有机会“斜杠化”，也就是在⼀台电脑 ⾯前⽅便地切换多种身份，以异步的⽅式处理多种事务，从⽽增加了开发者参与开源的时间和 机会。 当然，同样由于远程办公，虚拟世界在⼈类⽣活中的占⽐，变得更⼤了。这样是否更好，还会 引发哪些问题？作为站在隧道⼝的⼈类，其实是猜不透的。 年的约 1,19 万 增加了约 21.2%。 1.2 指标解释 2、主要内容与发现 2.1 世界开源 Top10 项⽬ 活跃度最⾼的项⽬是来⾃⾕歌的前端跨平台开发框架 flutter/flutter，此外，源于⾕歌的深度 学习框架 tensorflow/tensorflow，容器编排系统 kubernetes/kubernetes 也分别位于第 5 名和第 6 名，这说明了⾕歌在开源上的努⼒和影响⼒获得了业内的认可。 从这个列表中，我们发现，阿⾥在开源领域中的成绩显著。Top10 项⽬中上榜的项⽬有 4 个，除了蚂蚁⾦服采⽤ React 封装的⼀套组件库 ant-design/ant-design，基于 Ant Design 框架搭建的中后台管理控制台的脚⼿架 ant-design/ant-design-pro 和致⼒于配置和管理微 服务的特性集 alibaba/nacos 外，饿了么（已被阿⾥收购）的开源项⽬ ElmFE/element

监控分析 应用 Spring Clould Dubbo Service Mesh 分布式事务 GTXS TCC 事务消息 事务轨迹 认证鉴权 发布管理 流量控制 协议转换 微服务框架 NSF 注册发现 服务治理 服务路由 流量染色 服务化 将企业能力转化为数字化的 服务，打破企业软件应用中数 据孤岛等现状。 敏捷 通过小步快跑的方式敏捷迭 代，不断适应市场与业务需求 的变化，摆脱缓慢的大版本更 的流量管控能力。 架构平滑演进 支持单体架构向微服务架构、微服务架 构向服务网格架构平滑演进。 开放兼容 全面覆盖主流微服务开发技术选型，增 强、扩展开源服务网格。 异构应用统一治理 多框架、多协议、多语言服务的统一治 理，避免技术栈重复建设。 异构集成 支持异构协议转换为 HTTP 协议 RESTFUL 接口，具备请求转换能力，有 效集成企业存量应用。 产品能力 云原生微服务 数据+AI 依托于数据中台体系，深度融合数据安 全、管控、治理、分析能力，增强 AI 智能 决策分析。 开放、标准化 适配多源异构数据源，兼容 Spark、 TensorFlow 等主流计算框架，支持自 定义镜像、支持模型及服务标准化。 便捷易用 模型开发、训练、调度可视化管控，内置 100+算子，支持模型一键式部署，降低 AI建模门槛。 AutoML 支持端到端 AutoML，自动化完成特征

版格式，因其在复数形式处理方 面对齐 CLDR。旧版格式对某些语言有不同的复数规则，这些规则是错误 的。 i18next [https://www.i18next.com/] 是一个用 JavaScript 编写的国际化框架。 Weblate 支持其具有复数等功能的本地化文件。 i18next 翻译是单语的，因此建议使用英语字符串（最常见的是英语字符串） 指定基本文件。 备注 Weblate 支持 i18next Weblate 的 REST API 在 2.6 版本加入: 从 Weblate 2.6 开始可以使用 REST API。 API 可以在 /api/ URL上访问，并且它基于 Django REST 框架 [https://www.django-rest-framework.org/] 。你可以直接使用或参考 Weblate 客户端。 身份验证和通用参数 公共项目的 API 无需身份验证即可使用，但未经身份验证的请求会受到严格的 。 format – 响应格式（覆盖了 Accept [https://www.rfc- editor.org/rfc/rfc7231#section-5.3.2]）。可能的值取决于 REST 框架设置，默认支持 json 和 api。后者为 API 提供了 web 浏览器接口。 page – 返回给定页面的分页结果(使用 next 和 previou 字段来响应的自动导航). Accept [https://www

版格式，因其在复数形式处理方 面对齐 CLDR。旧版格式对某些语言有不同的复数规则，这些规则是错误 的。 i18next [https://www.i18next.com/] 是一个用 JavaScript 编写的国际化框架。 Weblate 支持其具有复数等功能的本地化文件。 i18next 翻译是单语的，因此建议使用英语字符串（最常见的是英语字符串） 指定基本文件。 备注 Weblate 支持 i18next Weblate 的 REST API 在 2.6 版本加入: 从 Weblate 2.6 开始可以使用 REST API。 API 可以在 /api/ URL上访问，并且它基于 Django REST 框架 [https://www.django-rest-framework.org/] 。你可以直接使用或参考 Weblate 客户端。 身份验证和通用参数 公共项目的 API 无需身份验证即可使用，但未经身份验证的请求会受到严格的 。 format – 响应格式（覆盖了 Accept [https://www.rfc- editor.org/rfc/rfc7231#section-5.3.2]）。可能的值取决于 REST 框架设置，默认支持 json 和 api。后者为 API 提供了 web 浏览器接口。 page – 返回给定页面的分页结果(使用 next 和 previou 字段来响应的自动导航). Accept [https://www

版格式，因其在复数形式处理方 面对齐 CLDR。旧版格式对某些语言有不同的复数规则，这些规则是错误 的。 i18next [https://www.i18next.com/] 是一个用 JavaScript 编写的国际化框架。 Weblate 支持其具有复数等功能的本地化文件。 i18next 翻译是单语的，因此建议使用英语字符串（最常见的是英语字符串） 指定基本文件。 备注 Weblate 支持 i18next Weblate 的 REST API 在 2.6 版本加入: 从 Weblate 2.6 开始可以使用 REST API。 API 可以在 /api/ URL上访问，并且它基于 Django REST 框架 [https://www.django-rest-framework.org/] 。你可以直接使用或参考 Weblate 客户端。 身份验证和通用参数 公共项目的 API 无需身份验证即可使用，但未经身份验证的请求会受到严格的 。 format – 响应格式（覆盖了 Accept [https://www.rfc- editor.org/rfc/rfc7231#section-5.3.2]）。可能的值取决于 REST 框架设置，默认支持 json 和 api。后者为 API 提供了 web 浏览器接口。 page – 返回给定页面的分页结果(使用 next 和 previou 字段来响应的自动导航). Accept [https://www

ode/PO-Files.html] 复数字符串 复数形式对于正确定位具有变量计数的字符串是必需的。这些规则取决于目标 语言，许多格式都遵循 CLDR 规范。 提示 复数字符串也需要应用程序框架的适当支持。选择平台的原生格式，例如 GNU gettext ， Android 字符串资源 或 Stringsdict 格式 。 只读字符串 在 3.10 版本加入. 翻译文件中的只读字符串将被包含在 版格式，因其在复数形式处理方 面对齐 CLDR。旧版格式对某些语言有不同的复数规则，这些规则是错误 的。 i18next [https://www.i18next.com/] 是一个用 JavaScript 编写的国际化框架。 Weblate 支 持其具有复数等功能的本地化文件。 i18next 翻译是单语的，因此建议使用英语字符串（最常见的是英语字符串） 指定基本文件。 备注 Weblate 支持 i18next 您的集成的基础。 查询参数:: 请求标头:: 响应标头:: 响应 JSON 对象:: Weblate 的 REST API API 可以在 /api/ URL上访问，并且它基于 Django REST 框架 [https://www.django-rest- framework.org/] 。你可以直接使用或参考 Weblate 客户端。 身份验证和通用参数 公共项目的 API 无需身份验证即可使用，但未经身份验证的请求会受到严格的

版格式，因其在复数形式处理方 面对齐 CLDR。旧版格式对某些语言有不同的复数规则，这些规则是错误 的。 i18next [https://www.i18next.com/] 是一个用 JavaScript 编写的国际化框架。 Weblate 支持其具有复数等功能的本地化文件。 i18next 翻译是单语的，因此建议使用英语字符串（最常见的是英语字符串） 指定基本文件。 备注 Weblate 支持 i18next Weblate 的 REST API 在 2.6 版本加入: 从 Weblate 2.6 开始可以使用 REST API。 API 可以在 /api/ URL上访问，并且它基于 Django REST 框架 [https://www.django-rest-framework.org/] 。你可以直接使用或参考 Weblate 客户端。 身份验证和通用参数 公共项目的 API 无需身份验证即可使用，但未经身份验证的请求会受到严格的 。 format – 响应格式（覆盖了 Accept [https://www.rfc- editor.org/rfc/rfc7231#section-5.3.2]）。可能的值取决于 REST 框架设置，默认支持 json 和 api。后者为 API 提供了 web 浏览器接口。 page – 返回给定页面的分页结果(使用 next 和 previou 字段来响应的自动导航). Accept [https://www