全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 ……………………………… 15 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。 1. 人工智能安全治理原则 秉持共同、综合 包容审慎、确保安全。鼓励发展创新，对人工智能研发及应用采取 包容态度。严守安全底线，对危害国家安全、社会公共利益、公众合法权益的 风险及时采取措施。 人工智能安全治理框架 （V1.0）- 2 - 人工智能安全治理框架 1.2 风险导向、敏捷治理。密切跟踪人工智能研发及应用趋势，从人工 智能技术自身、人工智能应用两方面分析梳理安全风险，提出针对性防范应对 措施。关注安全风险发展变化，

版格式，因其在复数形式处理方 面对齐 CLDR。旧版格式对某些语言有不同的复数规则，这些规则是错误 的。 i18next [https://www.i18next.com/] 是一个用 JavaScript 编写的国际化框架。 Weblate 支持其具有复数等功能的本地化文件。 i18next 翻译是单语的，因此建议使用英语字符串（最常见的是英语字符串） 指定基本文件。 备注 Weblate 支持 i18next GITLAB_CREDENTIALS Gitea 拉取请求 在 4.12 版本加入. 这只是使用 Gitea API [https://docs.gitea.io/en-us/api-usage/] 在 Git 上添加了一个薄 层，以允许将翻译更改作为拉取请求推送，而不是直接推送到仓库。 不需要使用它来访问 Git 仓库，普通的 Git 工作方式相同，唯一的区别是如何 处理推送到仓库。使用 Git 将更改直接推送到仓库，而 Gitea Weblate 的 REST API 在 2.6 版本加入: 从 Weblate 2.6 开始可以使用 REST API。 API 可以在 /api/ URL上访问，并且它基于 Django REST 框架 [https://www.django-rest-framework.org/] 。你可以直接使用或参考 Weblate 客户端。 身份验证和通用参数 公共项目的 API 无需身份验证即可使用，但未经身份验证的请求会受到严格的

版格式，因其在复数形式处理方 面对齐 CLDR。旧版格式对某些语言有不同的复数规则，这些规则是错误 的。 i18next [https://www.i18next.com/] 是一个用 JavaScript 编写的国际化框架。 Weblate 支持其具有复数等功能的本地化文件。 i18next 翻译是单语的，因此建议使用英语字符串（最常见的是英语字符串） 指定基本文件。 备注 Weblate 支持 i18next GITLAB_CREDENTIALS Gitea 拉取请求 在 4.12 版本加入. 这只是使用 Gitea API [https://docs.gitea.io/en-us/api-usage/] 在 Git 上添加了一个薄 层，以允许将翻译更改作为拉取请求推送，而不是直接推送到仓库。 不需要使用它来访问 Git 仓库，普通的 Git 工作方式相同，唯一的区别是如何 处理推送到仓库。使用 Git 将更改直接推送到仓库，而 Gitea Weblate 的 REST API 在 2.6 版本加入: 从 Weblate 2.6 开始可以使用 REST API。 API 可以在 /api/ URL上访问，并且它基于 Django REST 框架 [https://www.django-rest-framework.org/] 。你可以直接使用或参考 Weblate 客户端。 身份验证和通用参数 公共项目的 API 无需身份验证即可使用，但未经身份验证的请求会受到严格的

版格式，因其在复数形式处理方 面对齐 CLDR。旧版格式对某些语言有不同的复数规则，这些规则是错误 的。 i18next [https://www.i18next.com/] 是一个用 JavaScript 编写的国际化框架。 Weblate 支持其具有复数等功能的本地化文件。 i18next 翻译是单语的，因此建议使用英语字符串（最常见的是英语字符串） 指定基本文件。 备注 Weblate 支持 i18next GITLAB_CREDENTIALS Gitea 拉取请求 在 4.12 版本加入. 这只是使用 Gitea API [https://docs.gitea.io/en-us/api-usage/] 在 Git 上添加了一个薄 层，以允许将翻译更改作为拉取请求推送，而不是直接推送到仓库。 不需要使用它来访问 Git 仓库，普通的 Git 工作方式相同，唯一的区别是如何 处理推送到仓库。使用 Git 将更改直接推送到仓库，而 Gitea Weblate 的 REST API 在 2.6 版本加入: 从 Weblate 2.6 开始可以使用 REST API。 API 可以在 /api/ URL上访问，并且它基于 Django REST 框架 [https://www.django-rest-framework.org/] 。你可以直接使用或参考 Weblate 客户端。 身份验证和通用参数 公共项目的 API 无需身份验证即可使用，但未经身份验证的请求会受到严格的

版格式，因其在复数形式处理方 面对齐 CLDR。旧版格式对某些语言有不同的复数规则，这些规则是错误 的。 i18next [https://www.i18next.com/] 是一个用 JavaScript 编写的国际化框架。 Weblate 支持其具有复数等功能的本地化文件。 i18next 翻译是单语的，因此建议使用英语字符串（最常见的是英语字符串） 指定基本文件。 备注 Weblate 支持 i18next GITLAB_CREDENTIALS Gitea 拉取请求 在 4.12 版本加入. 这只是使用 Gitea API [https://docs.gitea.io/en-us/api-usage/] 在 Git 上添加了一个薄 层，以允许将翻译更改作为拉取请求推送，而不是直接推送到仓库。 不需要使用它来访问 Git 仓库，普通的 Git 工作方式相同，唯一的区别是如何 处理推送到仓库。使用 Git 将更改直接推送到仓库，而 Gitea Weblate 的 REST API 在 2.6 版本加入: 从 Weblate 2.6 开始可以使用 REST API。 API 可以在 /api/ URL上访问，并且它基于 Django REST 框架 [https://www.django-rest-framework.org/] 。你可以直接使用或参考 Weblate 客户端。 身份验证和通用参数 公共项目的 API 无需身份验证即可使用，但未经身份验证的请求会受到严格的

版格式，因其在复数形式处理方 面对齐 CLDR。旧版格式对某些语言有不同的复数规则，这些规则是错误 的。 i18next [https://www.i18next.com/] 是一个用 JavaScript 编写的国际化框架。 Weblate 支持其具有复数等功能的本地化文件。 i18next 翻译是单语的，因此建议使用英语字符串（最常见的是英语字符串） 指定基本文件。 备注 Weblate 支持 i18next GITLAB_CREDENTIALS Gitea 拉取请求 在 4.12 版本加入. 这只是使用 Gitea API [https://docs.gitea.io/en-us/api-usage/] 在 Git 上添加了一个薄 层，以允许将翻译更改作为拉取请求推送，而不是直接推送到仓库。 不需要使用它来访问 Git 仓库，普通的 Git 工作方式相同，唯一的区别是如何 处理推送到仓库。使用 Git 将更改直接推送到仓库，而 Gitea Weblate 的 REST API 在 2.6 版本加入: 从 Weblate 2.6 开始可以使用 REST API。 API 可以在 /api/ URL上访问，并且它基于 Django REST 框架 [https://www.django-rest-framework.org/] 。你可以直接使用或参考 Weblate 客户端。 身份验证和通用参数 公共项目的 API 无需身份验证即可使用，但未经身份验证的请求会受到严格的

org/] 至少 2.2.5 版本开始，也支持带有复数的 i18next JSON 文件。 i18next [https://www.i18next.com/] 是一个用 JavaScript 编写的国际化框架。 Weblate 支持其具有复数等功能的本地化文件。 i18next 翻译是单语的，因此建议使用英语字符串（最常见的是英语字符串） 指定基本文件。 备注 Weblate支持 i18next JSON GITLAB_CREDENTIALS Gitea 拉取请求 在 4.12 版本加入. 这只是使用 Gitea API [https://docs.gitea.io/en-us/api-usage/] 在 Git 上添加了一个薄 层，以允许将翻译更改作为拉取请求推送，而不是直接推送到仓库。 不需要使用它来访问 Git 仓库，普通的 Git 工作方式相同，唯一的区别是如何 处理推送到仓库。使用 Git 将更改直接推送到仓库，而 Gitea Weblate 的 REST API 在 2.6 版本加入: 从 Weblate 2.6 开始可以使用 REST API。 API 可以在 /api/ URL上访问，并且它基于 Django REST 框架 [https://www.django-rest-framework.org/] 。你可以直接使用或参考 Weblate 客户端。 身份验证和通用参数 公共项目的 API 无需身份验证即可使用，但未经身份验证的请求会受到严格的

org/] 至少 2.2.5 版本开始，也支持带有复数的 i18next JSON 文件。 i18next [https://www.i18next.com/] 是一个用 JavaScript 编写的国际化框架。 Weblate 支持其具有复数等功能的本地化文件。 i18next 翻译是单语的，因此建议使用英语字符串（最常见的是英语字符串） 指定基本文件。 备注 Weblate支持 i18next JSON GITLAB_CREDENTIALS Gitea 拉取请求 在 4.12 版本加入. 这只是使用 Gitea API [https://docs.gitea.io/en-us/api-usage/] 在 Git 上添加了一个薄 层，以允许将翻译更改作为拉取请求推送，而不是直接推送到存储库。 不需要使用它来访问 Git 存储库，普通的 Git 工作方式相同，唯一的区别是如 何处理推送到存储库。使用 Git 将更改直接推送到存储库，而 Weblate 的 REST API 在 2.6 版本加入: 从 Weblate 2.6 开始可以使用 REST API。 API 可以在 /api/ URL上访问，并且它基于 Django REST 框架 [https://www.django-rest-framework.org/] 。你可以直接使用或参考 Weblate 客户端。 身份验证和通用参数 公共项目的 API 无需身份验证即可使用，但未经身份验证的请求会受到严格的

org/] 至少 2.2.5 版本开始，也支持带有复数的 i18next JSON 文件。 i18next [https://www.i18next.com/] 是一个用 JavaScript 编写的国际化框架。 Weblate 支持其具有复数等功能的本地化文件。 i18next 翻译是单语的，因此建议使用英语字符串（最常见的是英语字符串） 指定基本文件。 备注 Weblate支持 i18next JSON GITLAB_CREDENTIALS Gitea 拉取请求 在 4.12 版本加入. 这只是使用 Gitea API [https://docs.gitea.io/en-us/api-usage/] 在 Git 上添加了一个薄 层，以允许将翻译更改作为拉取请求推送，而不是直接推送到仓库。 不需要使用它来访问 Git 仓库，普通的 Git 工作方式相同，唯一的区别是如何 处理推送到仓库。使用 Git 将更改直接推送到仓库，而 Gitea Weblate 的 REST API 在 2.6 版本加入: 从 Weblate 2.6 开始可以使用 REST API。 API 可以在 /api/ URL上访问，并且它基于 Django REST 框架 [https://www.django-rest-framework.org/] 。你可以直接使用或参考 Weblate 客户端。 身份验证和通用参数 公共项目的 API 无需身份验证即可使用，但未经身份验证的请求会受到严格的

for v4 variant of this format was added. i18next [https://www.i18next.com/] 是一个用 JavaScript 编写的国际化框架。 Weblate 支持其具有复数等功能的本地化文件。 i18next 翻译是单语的，因此建议使用英语字符串（最常见的是英语字符串） 指定基本文件。 备注 Weblate supports the GITLAB_CREDENTIALS Gitea 拉取请求 在 4.12 版本加入. 这只是使用 Gitea API [https://docs.gitea.io/en-us/api-usage/] 在 Git 上添加了一个薄 层，以允许将翻译更改作为拉取请求推送，而不是直接推送到仓库。 不需要使用它来访问 Git 仓库，普通的 Git 工作方式相同，唯一的区别是如何 处理推送到仓库。使用 Git 将更改直接推送到仓库，而 Gitea Weblate 的 REST API 在 2.6 版本加入: 从 Weblate 2.6 开始可以使用 REST API。 API 可以在 /api/ URL上访问，并且它基于 Django REST 框架 [https://www.django-rest-framework.org/] 。你可以直接使用或参考 Weblate 客户端。 身份验证和通用参数 公共项目的 API 无需身份验证即可使用，但未经身份验证的请求会受到严格的