程序设计语言 简体中文版 11. 编写自动化测试 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219 11.1. 如何编写测试 . . . . . . . . . . . . . . . 220 11.2. 控制测试如何运行 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 236 11.3. 测试的组织结构 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255 12.4. 采用测试驱动开发完善库的功能 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2.4 安全开发应用指引方面。明确模型算法研发者、服务提供者、重点 领域用户和社会公众用户，开发应用人工智能技术的若干安全指导规范。 3. 人工智能安全风险分类 人工智能系统设计、研发、训练、测试、部署、使用、维护等生命周期 各环节都面临安全风险，既面临自身技术缺陷、不足带来的风险，也面临不当 使用、滥用甚至恶意利用带来的安全风险。 3.1 人工智能内生安全风险 3.1.1 模型算法安全风险 （d）数据泄露风险。人工智能研发应用过程中，因数据处理不当、非授 权访问、恶意攻击、诱导交互等问题，可能导致数据和个人信息泄露。 3.1.3 系统安全风险 （a）缺陷、后门被攻击利用风险。人工智能算法模型设计、训练和验证 的标准接口、特性库和工具包，以及开发界面和执行平台可能存在逻辑缺陷、- 5 - 人工智能安全治理框架 漏洞等脆弱点，还可能被恶意植入后门，存在被触发和攻击利用的风险。 （b）算力安全风险。人工智能训练运行所依赖的算力基础设施，涉及多源、 以防范。 4.1 针对人工智能内生安全风险 4.1.1 模型算法安全风险应对 （a）不断提高人工智能可解释性、可预测性，为人工智能系统内部构造、- 8 - 人工智能安全治理框架 推理逻辑、技术接口、输出结果提供明确说明，正确反映人工智能系统产生结 果的过程。 （b）在设计、研发、部署、维护过程中建立并实施安全开发规范，尽可 能消除模型算法存在的安全缺陷、歧视性倾向，提高鲁棒性。 4.1

逻辑推理 语言翻译 文本创作 自动驾驶 具身智能 1 2 4 5 知识问答 代码编程 文本生成 多轮对话 图像生成 视频生成 音频生成 A I 数字人 生物制药 新材料研究 脑机接口 基础科学 能源自由 宇宙探索 生命科学 科学 能力 6 AI Fo r Science 知识管理（ 内部知识管理、 外部情报分析、 大数据分析、 工作流知识） 专家经验模型（ 专业模型训练） 做过去只有人才能做的事  做人做的重复繁琐易出错的事  拆解繁琐复杂的业 务流程 55政企、创业者必读 场景选择示例：人员招聘系统 场景分得足够细，就可以训练对应的专业模型来解决问题 注：经360内部测试，深色的业务环节更加符合“四个十倍”原则 示例：人员招聘就是一个太大的、笼统的场景 需要细分成职位描述、简历筛选、面试评估等粒度更合适的场景 56政企、创业者必读 某省39家钢铁企业，联合打

模型文件，不需要预先安装 caffe 。 net 已测试网络：alexnet / densenet121 / inception v1 / inception v3 / inception v4 / mobilenet v1 / mobilenet v2 / resnet50 / squeezenet v1 / vgg16 / ssd / fcn-8s op 已测试 op：innerproduct / conv2d