程序设计语言 简体中文版 11. 编写自动化测试 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 219 11.1. 如何编写测试 . . . . . . . . . . . . . . . 220 11.2. 控制测试如何运行 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 236 11.3. 测试的组织结构 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 255 12.4. 采用测试驱动开发完善库的功能 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

2.4 安全开发应用指引方面。明确模型算法研发者、服务提供者、重点 领域用户和社会公众用户，开发应用人工智能技术的若干安全指导规范。 3. 人工智能安全风险分类 人工智能系统设计、研发、训练、测试、部署、使用、维护等生命周期 各环节都面临安全风险，既面临自身技术缺陷、不足带来的风险，也面临不当 使用、滥用甚至恶意利用带来的安全风险。 3.1 人工智能内生安全风险 3.1.1 模型算法安全风险 实施人工智能应用分类分级管理。根据功能、性能、应用场景等， 对人工智能系统分类分级，建立风险等级测试评估体系。加强人工智能最终用 途管理，对特定人群及场景下使用人工智能技术提出相关要求，防止人工智能 系统被滥用。对算力、推理能力达到一定阈值或应用在特定行业领域的人工智 能系统进行登记备案，要求其具备在设计、研发、测试、部署、使用、维护等 全生命周期的安全防护能力。 5.2 建立人工智能服务可追溯管理制度。对面向公众服务的人工智能 （g）研发者应定期开展安全评估测试，测试前明确测试目标、范围和安 全维度，构建多样化的测试数据集，涵盖各种应用场景。 （h）研发者应制定明确的测试规则和方法，包括人工测试、自动测试、 混合测试等，利用沙箱仿真等技术对模型进行充分测试和验证。 （i） 研发者应评估人工智能模型算法对外界干扰的容忍程度，以适用范 围、注意事项或使用禁忌的形式告知服务提供者和使用者。 （j） 研发者应生成详细的测试报告，分析安全问题并提出改进方案。