（d）被窃取、篡改的风险。参数、结构、功能等算法核心信息，面临被 逆向攻击窃取、修改，甚至嵌入后门的风险，可导致知识产权被侵犯、商业机 密泄露，推理过程不可信、决策输出错误，甚至运行故障。 （e）输出不可靠风险。生成式人工智能可能产生 “幻觉”，即生成看似合理， 实则不符常理的内容，造成知识偏见与误导。 （f）对抗攻击风险。攻击者通过创建精心设计的对抗样本数据，隐蔽地 误导、影响，以至操纵人 风险。 （b）训练数据含不当内容、被 “投毒” 风险。训练数据中含有虚假、偏见、 侵犯知识产权等违法有害信息，或者来源缺乏多样性，导致输出违法的、不良 的、偏激的等有害信息内容。训练数据还面临攻击者篡改、注入错误、误导数 据的“投毒”风险，“污染”模型的概率分布，进而造成准确性、可信度下降。 （c）训练数据标注不规范风险。训练数据标注过程中，存在因标注规则 不完备、标注人员能力不够、标 （d）数据泄露风险。人工智能研发应用过程中，因数据处理不当、非授 权访问、恶意攻击、诱导交互等问题，可能导致数据和个人信息泄露。 3.1.3 系统安全风险 （a）缺陷、后门被攻击利用风险。人工智能算法模型设计、训练和验证 的标准接口、特性库和工具包，以及开发界面和执行平台可能存在逻辑缺陷、- 5 - 人工智能安全治理框架 漏洞等脆弱点，还可能被恶意植入后门，存在被触发和攻击利用的风险。 （b）算力安全风险。人工智能训练运行所依赖的算力基础设施，涉及多源、

。 周鸿祎荣获全国劳动模范、国家百千万人才工程有突出贡献 中青年专家、2023年度“北京学者“等荣誉称号。 74 政企、创业者必读政企、创业者必读 • 国家级网络攻击的发现、捕获、抵御能力全球领先 • 安全大数据 (攻击样本库、病毒基因库、安全知识库 等)规模全球领先 • 安全人才规模全球领先 • 漏洞挖掘能力全球领先 四个全球领先 世界的360 • 实战能力第一，实战是检验安全企业能力的唯一标准 75政企、创业者必读 探索形成了一套自主可控、「看见+处置」为核心的数字安全「中国方案」 360 安 全 云 每天云查杀1000亿次，平均每秒115万次，每日处置安全事件10亿次 每天拦截勒索攻击100万次、挖矿攻击1000万次、恶意网址7.5亿次、网络电信诈骗6000万次 云端响应服务 高级威胁溯源平台、安全大数据检索平台、安全风险研判平台、热点事件分析平台 分析研判平台 端 • 服务全球15亿终端 • QVE、QEX、QVM QAPT、鲲鹏、扎克 慧眼、APTFLOW 建立样本库、基因 库、知识库 • 320亿样本 • 百万攻击/渗透事件 • 1800+APT武器模型 • 1000+技战术手法 • 2000+杀伤链模型 • 上万条典型攻击脚本 强大专家团队 • 200+安全精英团队 • 3800+安全专家团 队 全网集中研判 全网统一处置 整合端、云、数、智、

探讨免疫系统的分层防御策略如何应用于网络安全的纵深防御概念。 c.讨论过度免疫反应（如过敏）可能对应的网络安全问题（如误报或过度限制）。 （4）创新思路： a.提出“数字疫苗”概念，探讨如何通过模拟攻击来增强系统抵抗力。 b.讨论“网络卫生”概念，类比个人卫生如何预防疾病。 c.探索“数字共生”理念，类比人体中的有益菌群，讨论如何利用良性AI来增强网络 安全。 （5）挑战与展望：

探讨免疫系统的分层防御策略如何应用于网络安全的纵深防御概念。 c.讨论过度免疫反应（如过敏）可能对应的网络安全问题（如误报或过度限制）。 （4）创新思路： a.提出“数字疫苗”概念，探讨如何通过模拟攻击来增强系统抵抗力。 b.讨论“网络卫生”概念，类比个人卫生如何预防疾病。 c.探索“数字共生”理念，类比人体中的有益菌群，讨论如何利用良性AI来增强网络 安全。 （5）挑战与展望：