全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 针对人工智能内生安全风险 ………………………… 7 4.2 针对人工智能应用安全风险 ………………………… 9 5. 综合治理措施 ……………………………………………… 10 6. 人工智能安全开发应用指引 ……………………………… 12 6.1 模型算法研发者安全开发指引 ……………………… 12 6.2 人工智能服务提供者安全指引 ……………………… 13 6.3 重点领域使用者安全应用指引 6.4 社会公众安全应用指引 ……………………………… 15 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。

Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.15 Weblate 4.14.2 Weblate 4.14.1 Weblate 4.14 Weblate 范围: 检查的类: 检查的标识符: 启用的标记: 忽略的标记: 不安全的 HTML 在 3.9 版本加入. 该译文使用了不安全的 HTML 标记 已翻译字符串 weblate.checks.markup.SafeHTMLCheck safe-html safe-html ignore-safe-html 译文使用了不安全的 HTML 标记。必须使用 safe-html 标志启用此检查 （请参阅 个项目的访问控制；请参见 GET /api/projects/(string:project)/ 示例 JSON 数据： { "name": "Guests", "defining_project": null, "project_selection": 3, "language_selection": 1, "url": "http://example.com/api/groups/1/"

Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.15.1 Weblate 4.15 Weblate 4.14.2 Weblate 4.14.1 范围: 检查的类: 检查的标识符: 启用的标记: 忽略的标记: 不安全的 HTML 在 3.9 版本加入. 该译文使用了不安全的 HTML 标记 已翻译字符串 weblate.checks.markup.SafeHTMLCheck safe-html safe-html ignore-safe-html 译文使用了不安全的 HTML 标记。必须使用 safe-html 标志启用此检查 （请参阅 个项目的访问控制；请参见 GET /api/projects/(string:project)/ 示例 JSON 数据： { "name": "Guests", "defining_project": null, "project_selection": 3, "language_selection": 1, "url": "http://example.com/api/groups/1/"

Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.15.2 Weblate 4.15.1 Weblate 4.15 Weblate 4.14.2 范围: 检查的类: 检查的标识符: 启用的标记: 忽略的标记: 不安全的 HTML 在 3.9 版本加入. 该译文使用了不安全的 HTML 标记 已翻译字符串 weblate.checks.markup.SafeHTMLCheck safe-html safe-html ignore-safe-html 译文使用了不安全的 HTML 标记。必须使用 safe-html 标志启用此检查 （请参阅 个项目的访问控制；请参见 GET /api/projects/(string:project)/ 示例 JSON 数据： { "name": "Guests", "defining_project": null, "project_selection": 3, "language_selection": 1, "url": "http://example.com/api/groups/1/"

Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.14.2 Weblate 4.14.1 Weblate 4.14 Weblate 4.13.1 检查的标识符: 启用的标记: 忽略的标记: 部件配置， 使用标记定制行为 不安全的 HTML 在 3.9 版本加入. 该译文使用了不安全的 HTML 标记 已翻译字符串 weblate.checks.markup.SafeHTMLCheck safe-html safe-html ignore-safe-html 翻译使用了不安全的 HTML 标记。必须使用 safe-html 标志启用此检查 （请参阅 个项目的访问控制；请参见 GET /api/projects/(string:project)/ 示例 JSON 数据： { "name": "Guests", "defining_project": null, "project_selection": 3, "language_selection": 1, "url": "http://example.com/api/groups/1/"

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 448 3.12 安全和隐私 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 449 3 也存在零宽空格。 控制字符删除 从翻译中删除任何控制字符。 梵文 danda 用梵文 danda (�) 替换梵文中错误的句号。 不安全的 HTML 清理 使用“safe-html“标记开启时会清理 HTML markup。 参见: 不安全的 HTML 修复首尾空白 使首尾空白和源字符串保持一致。可使用 ignore-begin-space 和 ignore-end-space 发行版本 4.18.2 不安全的 HTML 在 3.9 版本加入. 概要 该译文使用了不安全的 HTML 标记 范围 已翻译字符串 检查的类 weblate.checks.markup.SafeHTMLCheck 检查的标识符 safe-html 启用的标记 safe-html 忽略的标记 ignore-safe-html 译文使用了不安全的 HTML 标记。必须使用

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 448 3.12 安全和隐私 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 449 3 也存在零宽空格。 控制字符删除 从翻译中删除任何控制字符。 梵文 danda 用梵文 danda (�) 替换梵文中错误的句号。 不安全的 HTML 清理 使用“safe-html“标记开启时会清理 HTML markup。 参见: 不安全的 HTML 修复首尾空白 使首尾空白和源字符串保持一致。可使用 ignore-begin-space 和 ignore-end-space 发行版本 4.18.1 不安全的 HTML 在 3.9 版本加入. 概要 该译文使用了不安全的 HTML 标记 范围 已翻译字符串 检查的类 weblate.checks.markup.SafeHTMLCheck 检查的标识符 safe-html 启用的标记 safe-html 忽略的标记 ignore-safe-html 译文使用了不安全的 HTML 标记。必须使用

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 424 3.12 安全和隐私 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 425 3 部件配置，使用标记定制行为 不安全的 HTML 在 3.9 版本加入. 概要 该译文使用了不安全的 HTML 标记 范围 已翻译字符串 检查的类 weblate.checks.markup.SafeHTMLCheck 检查的标识符 safe-html 启用的标记 safe-html 忽略的标记 ignore-safe-html 译文使用了不安全的 HTML 标记。必须使用 控制； 请参见GET /api/projects/(string:project)/ 示例 JSON 数据： { "name": "Guests", "defining_project": null, "project_selection": 3, "language_selection": 1, "url": "http://example.com/api/groups/1/", "roles":

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 424 3.12 安全和隐私 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 425 3 部件配置，使用标记定制行为 不安全的 HTML 在 3.9 版本加入. 概要 该译文使用了不安全的 HTML 标记 范围 已翻译字符串 检查的类 weblate.checks.markup.SafeHTMLCheck 检查的标识符 safe-html 启用的标记 safe-html 忽略的标记 ignore-safe-html 译文使用了不安全的 HTML 标记。必须使用 控制； 请参见GET /api/projects/(string:project)/ 示例 JSON 数据： { "name": "Guests", "defining_project": null, "project_selection": 3, "language_selection": 1, "url": "http://example.com/api/groups/1/", "roles":

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 425 3.12 安全和隐私 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 426 3 部件配置，使用标记定制行为 不安全的 HTML 在 3.9 版本加入. 概要 该译文使用了不安全的 HTML 标记 范围 已翻译字符串 检查的类 weblate.checks.markup.SafeHTMLCheck 检查的标识符 safe-html 启用的标记 safe-html 忽略的标记 ignore-safe-html 译文使用了不安全的 HTML 标记。必须使用 控制； 请参见GET /api/projects/(string:project)/ 示例 JSON 数据： { "name": "Guests", "defining_project": null, "project_selection": 3, "language_selection": 1, (续下页) 1.12. Weblate 的 REST API 109 The Weblate