全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 针对人工智能内生安全风险 ………………………… 7 4.2 针对人工智能应用安全风险 ………………………… 9 5. 综合治理措施 ……………………………………………… 10 6. 人工智能安全开发应用指引 ……………………………… 12 6.1 模型算法研发者安全开发指引 ……………………… 12 6.2 人工智能服务提供者安全指引 ……………………… 13 6.3 重点领域使用者安全应用指引 6.4 社会公众安全应用指引 ……………………………… 15 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。

#html_theme = 'alabaster' html_theme = 'sphinx_rtd_theme’ ``` 在Makefile同级目录运行  make html 生成静态web网页  make latexpdf 生成PDF 文件 我的Sphinx文档 http://pymol.chenzhaoqiang.com/ 我的Sphinx文档 微信公众号 PythonPerl

IT 资产 为什么要使⽤堡垒机？ - 以更安全、更⾼效的⽅式管控和登录各种类型的资产 - 系统管理员 普通⽤户 外包⼈员 临时访客 服务器 ⽹络设备 数据库 Kubernetes 事前授权 事中监察 事后审计 管理者期望 堡垒机的 4A 能⼒ 身份鉴别 Authentication 授权控制 Authorization 安全审计 Auditing 账号管理 Accounting Accounting 远程应⽤ 堡垒机 堡垒机需要具备的四个核⼼能⼒ 身份鉴别 账号管理 授权控制 安全审计 - 运维安全审计的 4A 规范 - Authentication Accounting Authorization Auditing 追溯保障、事故分 析的依据 防⽌ 身份冒⽤和复⽤ ⼈员账号和资产账 号的统⼀⾼效管理 防⽌ 内部误操作和权限滥⽤ 等级保护推动堡垒机发展 发布《计算机信息系统安全等级保护 划分细则》 这⼀年被称为等级保护元年。等级保 护 1.0 （《信息安全技术-信息系统安 全等级保护定级指南》GB/T22240、 《信息安全技术-信息系统安全等级保 护基本要求》GB/T22239-2008）相关 标准发布实施。 《中华⼈⺠共和国⽹络安全法》发 布，这是⽹络安全的“基本法”，具有 强制性规范作⽤。 《信息安全技术⽹络安全等级保护 2.0 标准》正式实施，等级保护正式

Benaich 等 作 者 联 合 撰 写 的 “ State of AI Report 2023”报告，从研究进展 (Research)、行业局 势 (Industry)、政策影响 (Politics)、安全问题 (Safety)、 未来预测 (Predictions) 五个维度出发，对人工智能发展 现状和未来预期进行了深度分析。从中我们看到：  英伟达凭借各国、初创公司、大型科技公司和研究人员 是最需要的技能。  许多 AI 采用者仍处于早期阶段：26% 的人使用 AI 不到一年，而 18% 的人已经在生产中进行了应用。  16% 从事 AI 工作的受访者表示正在使用开源模型。  意外结果、安全性、公平性、偏见和隐私是采用者测试 的最大风险。 工业和信息化部赛迪研究院数据显示，目前，我国已有超 过 19 个大语言模型研发厂商。其中，15 家厂商的模型 产品已经通过备案，预计今年我国大语言模型市场规模将 竞品：Bard 2023 年 4 月，陈天奇团队(MLC)发布了一个可将大型语言模型和基于 LLM 的聊天机器人引入 Web 浏览器的项目：Web LLM。一切都在浏览器内运行， 无需服务器支持，并使用 WebGPU 加速。 用 ChatGPT 控制 AI 模型 陈天奇团队发布 Web LLM 用浏览器跑大模型 微软开源 JARVIS（贾维斯） 依托大模型能力，京东云言犀为客户提供涵 盖客户服务、营销导购、多模态数字人等多

[https://weblate.org/] Weblate 是 Copylefted 的自由软件，是一个基于 Web 的持续本地化系统， 被 165+ 个国家/地区的 2500+ 个自由项目和公司使用。 安装它，或使用 weblate.org [https://weblate.org/] 上的 Hosted Weblate 服务。 website website weblate.org weblate 关于 Weblate 的即时聊天可以在 Libera.Chat [https://libera.chat/] IRC网络上进 行。频道名称是 #weblate 。这可以通过例如 https://web.libera.chat/#weblate 或安装在你电脑上的IRC客户端来访问。 许可协议 版权所有 © 2012–2022 Michal Čihař michal@cihar.com 本程 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.15 Weblate 4.14.2 Weblate 4.14.1 Weblate 4.14 Weblate

[https://weblate.org/] Weblate 是 Copylefted 的自由软件，是一个基于 Web 的持续本地化系统， 被 165+ 个国家/地区的 2500+ 个自由项目和公司使用。 安装它，或使用 weblate.org [https://weblate.org/] 上的 Hosted Weblate 服务。 website website weblate.org weblate 关于 Weblate 的即时聊天可以在 Libera.Chat [https://libera.chat/] IRC网络上进 行。频道名称是 #weblate 。这可以通过例如 https://web.libera.chat/#weblate 或安装在你电脑上的IRC客户端来访问。 许可协议 Copyright © Michal Čihař michal@weblate.org 本程序是自由软件：您可以在自由软件基金会发布的 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.15.1 Weblate 4.15 Weblate 4.14.2 Weblate 4.14.1

[https://weblate.org/] Weblate 是 Copylefted 的自由软件，是一个基于 Web 的持续本地化系统， 被 165+ 个国家/地区的 2500+ 个自由项目和公司使用。 安装它，或使用 weblate.org [https://weblate.org/] 上的 Hosted Weblate 服务。 website website weblate.org weblate 关于 Weblate 的即时聊天可以在 Libera.Chat [https://libera.chat/] IRC网络上进 行。频道名称是 #weblate 。这可以通过例如 https://web.libera.chat/#weblate 或安装在你电脑上的IRC客户端来访问。 许可协议 Copyright © Michal Čihař michal@weblate.org 本程序是自由软件：您可以在自由软件基金会发布的 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.15.2 Weblate 4.15.1 Weblate 4.15 Weblate 4.14.2

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 448 3.12 安全和隐私 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 449 3 首选项选项卡，你可以选择默认显示的操作面板视图。如果你选择 部件列表，你必须从 默认部件列 表下拉菜单中选择要显示哪个部件列表。 参见: 部件列表 编辑器链接 默认情况下，源代码链接显示在部件配置 中配置的 Web 浏览器中。 提示: 通过设置 编辑器链接，您可以使用本地编辑器打开翻译字符串的版本控制系统（VCS）源代码文 件。你可以使用模板标记。 通常像 editor://open/?file={{fi 也存在零宽空格。 控制字符删除 从翻译中删除任何控制字符。 梵文 danda 用梵文 danda (�) 替换梵文中错误的句号。 不安全的 HTML 清理 使用“safe-html“标记开启时会清理 HTML markup。 参见: 不安全的 HTML 修复首尾空白 使首尾空白和源字符串保持一致。可使用 ignore-begin-space 和 ignore-end-space

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 448 3.12 安全和隐私 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 449 3 首选项选项卡，你可以选择默认显示的操作面板视图。如果你选择 部件列表，你必须从 默认部件列 表下拉菜单中选择要显示哪个部件列表。 参见: 部件列表 编辑器链接 默认情况下，源代码链接显示在部件配置 中配置的 Web 浏览器中。 提示: 通过设置 编辑器链接，您可以使用本地编辑器打开翻译字符串的版本控制系统（VCS）源代码文 件。你可以使用模板标记。 通常像 editor://open/?file={{fi 也存在零宽空格。 控制字符删除 从翻译中删除任何控制字符。 梵文 danda 用梵文 danda (�) 替换梵文中错误的句号。 不安全的 HTML 清理 使用“safe-html“标记开启时会清理 HTML markup。 参见: 不安全的 HTML 修复首尾空白 使首尾空白和源字符串保持一致。可使用 ignore-begin-space 和 ignore-end-space

[https://weblate.org/] Weblate 是 Copylefted 的自由软件，是一个基于 Web 的持续本地化系统， 被 165+ 个国家/地区的 2500+ 个自由项目和公司使用。 安装它，或使用 weblate.org [https://weblate.org/] 上的 Hosted Weblate 服务。 website website weblate.org weblate 关于 Weblate 的即时聊天可以在 Libera.Chat [https://libera.chat/] IRC网络上进 行。频道名称是 #weblate 。这可以通过例如 https://web.libera.chat/#weblate 或安装在你电脑上的IRC客户端来访问。 许可协议 版权所有 © 2012–2022 Michal Čihař michal@cihar.com 本程 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.14.2 Weblate 4.14.1 Weblate 4.14 Weblate 4.13.1