（d）被窃取、篡改的风险。参数、结构、功能等算法核心信息，面临被 逆向攻击窃取、修改，甚至嵌入后门的风险，可导致知识产权被侵犯、商业机 密泄露，推理过程不可信、决策输出错误，甚至运行故障。 （e）输出不可靠风险。生成式人工智能可能产生 “幻觉”，即生成看似合理， 实则不符常理的内容，造成知识偏见与误导。 （f）对抗攻击风险。攻击者通过创建精心设计的对抗样本数据，隐蔽地 误导、影响，以至操纵人 风险。 （b）训练数据含不当内容、被 “投毒” 风险。训练数据中含有虚假、偏见、 侵犯知识产权等违法有害信息，或者来源缺乏多样性，导致输出违法的、不良 的、偏激的等有害信息内容。训练数据还面临攻击者篡改、注入错误、误导数 据的“投毒”风险，“污染”模型的概率分布，进而造成准确性、可信度下降。 （c）训练数据标注不规范风险。训练数据标注过程中，存在因标注规则 不完备、标注人员能力不够、标 （d）数据泄露风险。人工智能研发应用过程中，因数据处理不当、非授 权访问、恶意攻击、诱导交互等问题，可能导致数据和个人信息泄露。 3.1.3 系统安全风险 （a）缺陷、后门被攻击利用风险。人工智能算法模型设计、训练和验证 的标准接口、特性库和工具包，以及开发界面和执行平台可能存在逻辑缺陷、- 5 - 人工智能安全治理框架 漏洞等脆弱点，还可能被恶意植入后门，存在被触发和攻击利用的风险。 （b）算力安全风险。人工智能训练运行所依赖的算力基础设施，涉及多源、

这为开发者提供便利的同时，也隐含着漏洞反馈和修复滞后的潜在风险。开源项目一旦被广泛使用，一 方面漏洞信息散落在各类开发者手中，能否及时被官方收录是一个挑战 ；同时另一方面，如果软件使用 者跟踪漏洞修复不及时，则其被攻击的风险将大大提升。 专家点评 姜宁：开源组件的使用并不是没有成本的。 一般来说开源软件许可中都包含了一个不提供质保的声明。 如果 想要比较好解决开源项目代码安全风险的问题 ，公司要么投入人力参与上游项目的开发， 000 次利用 Log4j 漏洞的尝试。有不法分子利用远程代码执行漏洞窃取云基础设施，部署加密货币矿 工和勒索软件。据 Check Point 的统计表示，全球近一半企业因为该漏洞受到了黑客的试图攻击。 图表 20 ：受 Log4j 漏洞影响的企业网络的区域统计 资料来源：Check Point Research，云启资本 90 3.3.3 云厂商竞争风险 与使用开源项目但不回馈的公共 组织高度复 杂的供应链攻击 软件更新包后门 导致包括美国关键基础设施、军 队、政府等在内的超过 18000 家 客户全部收到影响，可任由攻击 者操控 2 2021 年 2 月 安全研究任由通过利用开 源生态安全机制上的漏洞， 实施依赖混淆攻击 开源生态机制漏洞 成功侵入了微软、苹果、PayPal、 特斯拉、优步等 35 家国际大型科 技公司的内网 3 2021 年 3 月 攻击者向 git.php

。 周鸿祎荣获全国劳动模范、国家百千万人才工程有突出贡献 中青年专家、2023年度“北京学者“等荣誉称号。 74 政企、创业者必读政企、创业者必读 • 国家级网络攻击的发现、捕获、抵御能力全球领先 • 安全大数据 (攻击样本库、病毒基因库、安全知识库 等)规模全球领先 • 安全人才规模全球领先 • 漏洞挖掘能力全球领先 四个全球领先 世界的360 • 实战能力第一，实战是检验安全企业能力的唯一标准 75政企、创业者必读 探索形成了一套自主可控、「看见+处置」为核心的数字安全「中国方案」 360 安 全 云 每天云查杀1000亿次，平均每秒115万次，每日处置安全事件10亿次 每天拦截勒索攻击100万次、挖矿攻击1000万次、恶意网址7.5亿次、网络电信诈骗6000万次 云端响应服务 高级威胁溯源平台、安全大数据检索平台、安全风险研判平台、热点事件分析平台 分析研判平台 端 • 服务全球15亿终端 • QVE、QEX、QVM QAPT、鲲鹏、扎克 慧眼、APTFLOW 建立样本库、基因 库、知识库 • 320亿样本 • 百万攻击/渗透事件 • 1800+APT武器模型 • 1000+技战术手法 • 2000+杀伤链模型 • 上万条典型攻击脚本 强大专家团队 • 200+安全精英团队 • 3800+安全专家团 队 全网集中研判 全网统一处置 整合端、云、数、智、

的特点，这为开发者提供便利的同时，也隐含着漏洞反馈和修复滞后的潜在风险。开源项目一 旦被广泛使用，一方面漏洞信息散落在各类开发者手中，能否及时被官方收录是一个挑战；同 时另一方面，如果软件使用者跟踪漏洞修复不及时，则其被攻击的风险将大大提升。 Security risks arising from vulnerabilities in open source components are also an essential 000 次利用 Log4j 漏 洞的尝试。有不法分子利用远程代码执行漏洞窃取云基础设施，部署加密货币矿工和勒索软件。 据 Check Point 的统计表示，全球近一半企业因为该漏洞受到了黑客的试图攻击。 Apache Log4j, a world-renowned open source logging component, was exposed to a severe high-risk 2020 年 12 月 全球著名的网络安全管 理软件公司 SolarWinds 遭遇国家 级 APT 组织高度复杂 的供应链攻击 软件更新包后门 导致包括美国关键基础设 施、军队、政府等在内的超 过 18000 家客户全部收到影 响，可任由攻击者操控 2 2021 年 2 月 安全研究任由通过利用 开源生态安全机制上的 漏洞，实施依赖混淆攻 击 开源生态机制漏

KSOC推出业内首个实时 Kubernetes安全态势管理平台 近日，KSOC推出业内首个实时Kubernetes安 全态势管理平台。Kubernetes安全态势管理平 台可以通过实时上下文以及当前和历史信息准 确定位攻击活动，同时还可以根据集群的当前 状态提供可操作的补救措施。具体功能包括： • 实时态势管理，发现基于事件的错误配置； • 汇总并找到Kubernetes RBAC中的过度权限； • 防止部署不合规的工作负载，减少潜在爆炸 近日，微软发布了一个补丁，用于修复Secure Boot绕过漏洞。在2023年1月份，微软释出补 丁修复了编号为CVE-2022-21894的漏洞，但 攻击者很快找到了绕过方法。本次释出的补丁 修复了新漏洞CVE-2023-24932。微软称，该 漏洞可能被拥有物理访问系统或管理员权限的 攻击者所利用。该修复措施与许多优先级较高 的Windows修复措施存在显著差异，新补丁不 会默认启用，它涉及到对Windows启动管理器

连接。连接到服务器从一开始就使用 TLS。 使用 PROTOCOL=smtps 进行强制的 SMTPS 连接。（这两种方式都被称为 Implicit TLS） 这是由于 Go 内部库对 STRIPTLS 攻击的保护机制。 请注意，自2018年起，RFC8314 推荐使用 Implicit TLS。 以下配置应该适用于 Gmail 的 SMTP 服务器： 1. [mailer] 2. ENABLED HTTPS 上。 使用反向代理服务器 HTTPS配置 - 78 - 本文档使用 书栈网 · BookStack.CN 构建 Fail2ban 检查客户端登录日志，将多次登录失败的客户端识别为攻击者并在一段时间内阻止其访问服务。如果你的 实例是公开的，这一点尤其重要。请管理员仔细设置 fail2ban，错误的配置将导致防火墙阻止你访问自己的服务 器。 Gitea 会在日志文件 log/gitea true 3. filter = gitea 4. logpath = /var/lib/gitea/log/gitea.log 5. maxretry = 10 使用 Fail2ban 阻止攻击者的暴力登录 设置 Fail2ban 设置 Fail2ban - 79 - 本文档使用 书栈网 · BookStack.CN 构建 6. findtime = 3600 7. bantime

探讨免疫系统的分层防御策略如何应用于网络安全的纵深防御概念。 c.讨论过度免疫反应（如过敏）可能对应的网络安全问题（如误报或过度限制）。 （4）创新思路： a.提出“数字疫苗”概念，探讨如何通过模拟攻击来增强系统抵抗力。 b.讨论“网络卫生”概念，类比个人卫生如何预防疾病。 c.探索“数字共生”理念，类比人体中的有益菌群，讨论如何利用良性AI来增强网络 安全。 （5）挑战与展望：

探讨免疫系统的分层防御策略如何应用于网络安全的纵深防御概念。 c.讨论过度免疫反应（如过敏）可能对应的网络安全问题（如误报或过度限制）。 （4）创新思路： a.提出“数字疫苗”概念，探讨如何通过模拟攻击来增强系统抵抗力。 b.讨论“网络卫生”概念，类比个人卫生如何预防疾病。 c.探索“数字共生”理念，类比人体中的有益菌群，讨论如何利用良性AI来增强网络 安全。 （5）挑战与展望：

发者需要投入额外精力进行适配和修改。 安全隐患。生成代码在处理用户输入、文件操作和网络请求等敏感操作时，容易忽略安全性， 导致潜在漏洞。例如，未对用户输入进行验证可能引发 SQL 注入或 XSS 攻击，文件路径处理不 当可能导致目录遍历或未授权的文件读写，网络请求中未正确加密数据可能导致信息泄露。这些 问题增加了代码在生产环境中的风险，可能被恶意利用。 法律和版权问题。大模型生成的代码可能

负责对安全事件应急响应和溯源分析，保证核⼼业务稳定运⾏
3.跟踪安全动态，研究前沿安全技术，对互联⽹重⼤安全漏洞进⾏响应分析



职位要求：

1.⼤学本科及以上学历，3年以上云安全相关从业经验；

2.熟悉常⻅攻击⽅式和防御措施，包括漏洞及漏洞成因、渗透思路和对应防御⽅法；

3.熟悉隐私和数据安全，了解数据分级分类与相关技术和产品；

4.具备脚本编写和代码编写能⼒，熟悉⾄少⼀种脚本语⾔

5.