全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 针对人工智能内生安全风险 ………………………… 7 4.2 针对人工智能应用安全风险 ………………………… 9 5. 综合治理措施 ……………………………………………… 10 6. 人工智能安全开发应用指引 ……………………………… 12 6.1 模型算法研发者安全开发指引 ……………………… 12 6.2 人工智能服务提供者安全指引 ……………………… 13 6.3 重点领域使用者安全应用指引 6.4 社会公众安全应用指引 ……………………………… 15 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。

BookStack.CN 构建 权限 模板仓库 工单与合并请求模板 自动链接引用 合并消息模板 推送 克隆过滤器 (部分克隆) Code Owners Webhooks 受保护的标签 仓库镜像 密钥管理 Multi-factor Authentication (MFA) 开发 玩转 Gitea API 使用指南 OAuth2 提供者 迁移界面 集成 贡献 后端开发指南 低，可以在资源有限的环境下运行良好。 易于部署和维护: 轻松地部署在各种服务器上，不需要复杂的配置和依赖。这使得个人开发者或小团队可以方 便地设置和管理自己的 Git 服务。 安全性: Gitea 注重安全性，提供了用户权限管理、访问控制列表等功能，可以确保代码和数据的安全性。 代码评审：代码评审同时支持 Pull Request workflow 和 AGit workflow。评审⼈可以在线浏览代 码，并提交评审意见或问题。 ✓ ✘ ✘ 在线代码编辑 ✓ ✓ ✓ ✓ ✓ ✓ ✓ 提交的统计图表 ✓ ✘ ✓ ✓ ✓ ✓ ✓ 模板仓库 ✓ ✘ ✓ ✘ ✓ ✓ ✘ Git Blame ✓ ✘ ✓ ✓ ✓ ✓ ✘ 可视化镜像变化 ✓ ✘ ✓ ? ? ? ? GitHub GitLab GitLab RhodeCode 代码管理 工单管理 对比 Gitea 与其它 Git 托管工具 - 10 - 本文档使用 书栈网

开放原子开源基金会出品 2023年5月 2023 CONTENTS 目录 01 行业发展 02 前沿技术 03 开源安全 AMD正计划使用开源的OpenSIL代替AGESA 开放服务网格OSM（Open Service Mesh）项目已停止维护 KSOC推出业内首个实时Kubernetes安全态势管理平台 Nutanix推出Kubernetes数据管理平台 Nutanix Data Services for 进Istio的发展。此外，OSM向云原生计算基 金会（CNCF）申请进行项目归档，目前还未 真正执行。 KSOC推出业内首个实时 Kubernetes安全态势管理平台 近日，KSOC推出业内首个实时Kubernetes安 全态势管理平台。Kubernetes安全态势管理平 台可以通过实时上下文以及当前和历史信息准 确定位攻击活动，同时还可以根据集群的当前 状态提供可操作的补救措施。具体功能包括： • 实时态势管理，发现基于事件的错误配置； Silicon Initialization Library”（开源硅初始化库），作 为一套开源解决方案，使用标准行业语言编写， 不但可以实现AGESA的各种传统功能，还有轻量 化、简单、透明、安全、扩展灵活等优势。 全球开源态势洞察｜第十期 02 01 行业发展 Nutanix推出Kubernetes 数据管理平台Nutanix Data Services for Kubernetes

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 448 3.12 安全和隐私 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 449 3 也存在零宽空格。 控制字符删除 从翻译中删除任何控制字符。 梵文 danda 用梵文 danda (�) 替换梵文中错误的句号。 不安全的 HTML 清理 使用“safe-html“标记开启时会清理 HTML markup。 参见: 不安全的 HTML 修复首尾空白 使首尾空白和源字符串保持一致。可使用 ignore-begin-space 和 ignore-end-space 发行版本 4.18.2 不安全的 HTML 在 3.9 版本加入. 概要 该译文使用了不安全的 HTML 标记 范围 已翻译字符串 检查的类 weblate.checks.markup.SafeHTMLCheck 检查的标识符 safe-html 启用的标记 safe-html 忽略的标记 ignore-safe-html 译文使用了不安全的 HTML 标记。必须使用

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 448 3.12 安全和隐私 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 449 3 也存在零宽空格。 控制字符删除 从翻译中删除任何控制字符。 梵文 danda 用梵文 danda (�) 替换梵文中错误的句号。 不安全的 HTML 清理 使用“safe-html“标记开启时会清理 HTML markup。 参见: 不安全的 HTML 修复首尾空白 使首尾空白和源字符串保持一致。可使用 ignore-begin-space 和 ignore-end-space 发行版本 4.18.1 不安全的 HTML 在 3.9 版本加入. 概要 该译文使用了不安全的 HTML 标记 范围 已翻译字符串 检查的类 weblate.checks.markup.SafeHTMLCheck 检查的标识符 safe-html 启用的标记 safe-html 忽略的标记 ignore-safe-html 译文使用了不安全的 HTML 标记。必须使用

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 448 3.12 安全和隐私 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 449 3 也存在零宽空格。 控制字符删除 从翻译中删除任何控制字符。 梵文 danda 用梵文 danda (�) 替换梵文中错误的句号。 不安全的 HTML 清理 使用“safe-html“标记开启时会清理 HTML markup。 参见: 不安全的 HTML 修复首尾空白 使首尾空白和源字符串保持一致。可使用 ignore-begin-space 和 ignore-end-space Manual, 发行版本 4.18 不安全的 HTML 在 3.9 版本加入. 概要 该译文使用了不安全的 HTML 标记 范围 已翻译字符串 检查的类 weblate.checks.markup.SafeHTMLCheck 检查的标识符 safe-html 启用的标记 safe-html 忽略的标记 ignore-safe-html 译文使用了不安全的 HTML 标记。必须使用

Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.18.1 Weblate 4.18 Weblate 4.17 Weblate 4.16.4 Weblate 在零 宽空格。 控制字符删除 从翻译中删除任何控制字符。 梵文 danda 用梵文 danda (।) 替换梵文中错误的句号。 不安全的 HTML 清理 使用 ``safe-html``标记开启时会清理 HTML markup。 参见 不安全的 HTML 修复首尾空白 使首尾空白和源字符串保持一致。可使用 ignore-begin-space 和 ignore-end- space 检查的类:: 检查的标识符:: 启用的标记:: 忽略的标记:: 概要:: 不安全的 HTML 在 3.9 版本加入. 该译文使用了不安全的 HTML 标记 已翻译字符串 weblate.checks.markup.SafeHTMLCheck safe-html safe-html ignore-safe-html 译文使用了不安全的 HTML 标记。必须使用 safe-html 标志启用此检查（请参

Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.18.2 Weblate 4.18.1 Weblate 4.18 Weblate 4.17 Weblate 在零 宽空格。 控制字符删除 从翻译中删除任何控制字符。 梵文 danda 用梵文 danda (।) 替换梵文中错误的句号。 不安全的 HTML 清理 使用 ``safe-html``标记开启时会清理 HTML markup。 参见 不安全的 HTML 修复首尾空白 使首尾空白和源字符串保持一致。可使用 ignore-begin-space 和 ignore-end- space 检查的类:: 检查的标识符:: 启用的标记:: 忽略的标记:: 概要:: 不安全的 HTML 在 3.9 版本加入. 该译文使用了不安全的 HTML 标记 已翻译字符串 weblate.checks.markup.SafeHTMLCheck safe-html safe-html ignore-safe-html 译文使用了不安全的 HTML 标记。必须使用 safe-html 标志启用此检查（请参

Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.18 Weblate 4.17 Weblate 4.16.4 Weblate 4.16.3 Weblate 在零 宽空格。 控制字符删除 从翻译中删除任何控制字符。 梵文 danda 用梵文 danda (।) 替换梵文中错误的句号。 不安全的 HTML 清理 使用 ``safe-html``标记开启时会清理 HTML markup。 参见 不安全的 HTML 修复首尾空白 使首尾空白和源字符串保持一致。可使用 ignore-begin-space 和 ignore-end- space 检查的类:: 检查的标识符:: 启用的标记:: 忽略的标记:: 概要:: 不安全的 HTML 在 3.9 版本加入. 该译文使用了不安全的 HTML 标记 已翻译字符串 weblate.checks.markup.SafeHTMLCheck safe-html safe-html ignore-safe-html 译文使用了不安全的 HTML 标记。必须使用 safe-html 标志启用此检查（请参

Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.17 Weblate 4.16.4 Weblate 4.16.3 Weblate 4.16.2 在零 宽空格。 控制字符删除 从翻译中删除任何控制字符。 梵文 danda 用梵文 danda (।) 替换梵文中错误的句号。 不安全的 HTML 清理 使用 ``safe-html``标记开启时会清理 HTML markup。 参见 不安全的 HTML 修复首尾空白 使首尾空白和源字符串保持一致。可使用 ignore-begin-space 和 ignore-end- space 可翻译的术语表术语被排除在检查之外。 参见 不遵循术语表 ， 部件配置， 使用标记定制行为 不安全的 HTML 在 3.9 版本加入. 该译文使用了不安全的 HTML 标记 已翻译字符串 weblate.checks.markup.SafeHTMLCheck safe-html safe-html ignore-safe-html 译文使用了不安全的 HTML 标记。必须使用 safe-html 标志启用此检查（请参