方面的测试及评估的指标要求，包括与人工智能相关的服务能力 成熟度评估，人工智能通用性测试指南、评估原则和等级要求， 企业智能化能力框架及测评要求等标准。 4. 管理标准。规范人工智能技术、产品、系统、服务等全 生命周期涉及的人员、组织管理要求和评价，包括面向人工智能 组织的管理要求，人工智能管理体系、分类方法、评级流程等标 准。 5. 可持续标准。规范人工智能影响环境的技术框架、方法 和指标，平衡产业发展与环境保护，包括促进生态可持续的人工 5. 智能服务标准。规范基于大模型、自然语言处理、智能 语音、计算机视觉等人工智能技术提供的服务，包括模型即服务 平台技术要求和评测方法等标准，以及面向特定场景的人工智能 应用服务，如智能软件开发、智能设计、智能防伪等标准。 （五）赋能新型工业化标准 赋能新型工业化标准主要包括研发设计、中试验证、生产制 造、营销服务、运营管理等制造业全流程智能化标准，以及重点 行业智能升级标准。 安全标准。规范人工智能技术、产品、系统、应用、服 务等全生命周期的安全要求，包括基础安全，数据、算法和模型 安全，网络、技术和系统安全，安全管理和服务，安全测试评估， 安全标注，内容标识，产品和应用安全等标准。 2. 治理标准。结合人工智能治理实际需求，规范人工智能 的技术研发和运营服务等要求，包括人工智能鲁棒性、可靠性、 可追溯性的技术要求与评测方法，人工智能治理支撑技术；规范 人工智能全生命周期的伦理治理要求，包括人工智能伦理风险评

及在不同行业领域 应用场景，梳理人工智能技术本身，及其在应用过程中面临的各种安全风险 隐患。 2.2 技术应对措施方面。针对模型算法、训练数据、算力设施、产品服务、 应用场景，提出通过安全软件开发、数据质量提升、安全建设运维、测评监测 加固等技术手段提升人工智能产品及应用的安全性、公平性、可靠性、鲁棒性- 3 - 人工智能安全治理框架 的措施。 2.3 综合治理措施方面。明确技术研发机构、服务提供者、用户、政府 安全开发应用指引方面。明确模型算法研发者、服务提供者、重点 领域用户和社会公众用户，开发应用人工智能技术的若干安全指导规范。 3. 人工智能安全风险分类 人工智能系统设计、研发、训练、测试、部署、使用、维护等生命周期 各环节都面临安全风险，既面临自身技术缺陷、不足带来的风险，也面临不当 使用、滥用甚至恶意利用带来的安全风险。 3.1 人工智能内生安全风险 3.1.1 模型算法安全风险 （a）可解释性 途管理，对特定人群及场景下使用人工智能技术提出相关要求，防止人工智能 系统被滥用。对算力、推理能力达到一定阈值或应用在特定行业领域的人工智 能系统进行登记备案，要求其具备在设计、研发、测试、部署、使用、维护等 全生命周期的安全防护能力。 5.2 建立人工智能服务可追溯管理制度。对面向公众服务的人工智能 系统，通过数字证书技术对其进行标识管理。制定出台人工智能生成合成内容 标识标准规范，明确显式、隐式等标识要求，全面覆盖制作源头、传播路径、

智能体开发平台，支持创建和部署智能对话系统。 2.4.5 solo Mozilla 开源项目，提供零代码网站开发功能，易于使用。 2.4.6 Cursor 开源的 AI 代码编辑器，旨在通过 AI 技术助力快速软件开发。 2.4.7 Tabby 自托管的 AI 编程助手，开源，支持开发人员优化编码过程。 2.4.8 Codeium 开源的 AI 编程工具，用于自动化代码生成和优化。 2.4.9 GitHub