Rust API可靠性分析与验证
Conf 2021 – 2022, Online, China 姜剑峰 Rust API可靠性分析与验证 Rust China Conf 2021 – 2022, Online, China 主题内容 • Rust第三方库API可靠性现状 • 现用方法的局限性 • 基于程序合成+模糊测试的可靠性分析方法 Rust China Conf 2021 – 2022, Online, China Unpin等 动态检查: • 数组越界 • 整数溢出 • Unicode字符边界 Rust China Conf 2021 – 2022, Online, China Rust API 可靠性 现有的机制是否足够呢? • unsafe代码没有破坏内存安全性 • no memory leakage • panic free 在任何合法使用API的情况下 • 所有静态检查提供的保 所破坏) • 所有动态检查都不应该被违背(可以被安全的移除),除非panic是一种 允许的行为 Rust China Conf 2021 – 2022, Online, China 现有的可靠性分析方法及其局限性 模糊测试(afl.rs, libfuzzer):分支覆盖率;用例程序的构造 符号执行(klee, angr):路径爆炸;求解困难 静态分析(MirChecker, Rudra0 码力 | 13 页 | 1.68 MB | 1 年前3openEuler 22.03-LTS 技术白皮书
21.09 长生命周期版本 创新版本 openEuler 社区主线 首个创新版 内核创新版 全场景版本 长生命周期版本:每两年发布一次, 在创新版本基础上提供长生命周期管理; 维护性能、可靠性和兼容性。 创新版本:长生命周期版本之间每 半年发布一次,集成 openEuler 以及其他社区最新版本技术进展 全场景长周期版 20.03 20.09 21.03 21.09 22.03 22 etMem:新增用户态 swap 功能,策略配置淘汰的冷内存交换到用户态存储,用户无感知,性能优于 内核态 swap。 • 内存 RAS 增强:内存可靠性分级技术,可以指定内核、关键进程等对内存故障敏感的数据优先使用高可靠内存,降 低宕机率,提升可靠性(技术预览特性)。 夯实云化基座 • 容器操作系统 KubeOS:云原生场景,实现 OS 容器化部署、运维,提供与业务容器一致的基于 K8s 的管理体验。 依赖于固件和软件的安全状态,提供用户空间的可信执行环境,通过一组新的指令集扩展与访问控制机制,实现不同 程序间的隔离运行,保障用户关键代码和数据的机密性与完整性不受恶意软件的破坏。 • 技术预览特性: a) 内存可靠性分级技术:通过对不同可靠性等级的内存分级管理,可以支持内核、关键进程、内存文件系统、文件缓 存使用高可靠内存,避免内存多 bit 故障引起内核复位。 b) 动态大页技术:支持对大页进行拆分和合并的功能,从而使得绑定到0 码力 | 17 页 | 6.52 MB | 1 年前3基于amqp实现的golang消息队列MaxQ
基于amqp实现的golang消息队列MaxQ http://192.168.10.11:3999/maxq.slide#1 4/22 生产者消费者 通信方式 存储方式 堆积能力 消息可靠性 生产消费关系 Pull/Push 7/1/2017 基于amqp实现的golang消息队列MaxQ http://192.168.10.11:3999/maxq.slide#1 5/22 5. MaxQ相关特性 1. 消息可靠性 2. 容错性 3. 扩展性 4. 高并发 7/1/2017 基于amqp实现的golang消息队列MaxQ http://192.168.10.11:3999/maxq.slide#1 11/22 消息可靠性 1) Publishing可靠性 -> Con�rm 2) 消息Routing可靠性 -> Publish mandatory mandatory 3) Consuming可靠性 -> Ack 4) Persisting可靠性 -> RAID1 5) 分布式下的可靠性 -> Slave Queue 7/1/2017 基于amqp实现的golang消息队列MaxQ http://192.168.10.11:3999/maxq.slide#1 12/22 容错性 zookeeper不可用 元数据已缓存在内存中,不会有任0 码力 | 22 页 | 1.45 MB | 1 年前3为何选择VMware?
0 版”产品,既没有在生产数据中心中进行验证, 也缺乏提供客户亟需的可靠性、可扩展性和性能所需的核心功能。 因此,虽然其他供应商试图在以下方面跟上 VMware 的步伐,但是 VMware 即将推出的版本会将 ESX 提升为更高级别的企业级虚拟化管理程序,能够进一步巩固我们的领先地位,并确保我们的客 户获得无与伦比的性能和可靠性。 表 1. 各虚拟化管理程序的比较 虚拟化管理程序属性 和 KVM:代码太多 就虚拟化而言,越小越好。虚拟化占用的空间越小,外部威胁的攻击面就越小,因此可以极大地降低 所需的补丁程序的数量,而这不仅可以提高产品的可靠性,而且还能提高数据中心的稳定性。 VMware 一贯致力于提高虚拟化可靠性,开发了业界最小的虚拟化管理程序 VMware ESXi,这同时 也是第一个完整的 x86/x64 虚拟化体系结构,无需依赖通用操作系统。VMware ESXi 作系统通常需要应 用的所有补丁程序,同时也消除了与此类通用操作系统相关的风险。Microsoft Hyper-V、Xen 和 KVM 采用的体系结构都依赖于通用服务器操作系统,其虚拟化管理程序的可靠性与相应的通用服务器操作 系统密切相关。 Microsoft 试图按照 VMware 的方向缩小其虚拟平台的受攻击面,提供了 Windows Server Core (Windows Server0 码力 | 34 页 | 862.76 KB | 1 年前3阿里云云数据库 Redis 版 产品简介
简介 标准版-单副本是云数据库 Redis 推出的一种新系列,采用单个数据库节点部署架构。与双副本版本相比,它只 包含一个节点,没有备用节点实时同步数据,不提供数据持久化和备份策略,适用于数据可靠性要求不高的纯 缓存业务场景使用。 云数据库 Redis 版 产品简介 9 特点 高性价比 Redis 标准版-单副本架构采用单节点部署。阿里云自研的 HA 高可用系统时时探测节点的服务情况 Redis 进程(没有数据 ),当节点故障业务自动切换完成后,应用程序需要将数据重新预热,以免对后端数据库产生访问压 力冲击。 注意:由于单副本模式不能提供数据可靠性,节点故障后需要业务进行预热,如果是对数据可靠性要 求较高的敏感性业务,不建议使用单副本版,可选用双副本高可用版。 对 Redis 协议兼容性要求较高的业务 标准版完全兼容 Redis 协议,业务可以平滑迁移。 点提供日常服务访问,备节点提 供 HA 高可用,当主节点发生故障,系统会自动在30秒切换至备节点,保证业务平稳运行。 云数据库 Redis 版 产品简介 11 特点 可靠性 服务可靠 采用双机主备架构,主备节点位于不同物理机。主节点对外提供访问,用户可通过 Redis 命 令行和通用客户端进行数据的增删改查操作。当主节点出现故障,自研的 HA 系统会自动进0 码力 | 33 页 | 1.88 MB | 1 年前3Java 应用与开发 - Java 技术概述及开发环境
是一种以对象为中心,以消息为驱动的面向对 象的编程语言。 平台无关性 分布式 可靠性 多线程 网络编程 编译和解释并存 大纲 Java 技术概述 Java 平台核心机制 Java 开发环境 Java 基本开发流程 Java 技术的特点 面向对象 平台无关性 分为源代码级(需重新编译源代码,如 C/C++) 和目标代码级 (Java) 平台无关。 分布式 可靠性 多线程 网络编程 编译和解释并存 大纲 Java 开发环境 Java 基本开发流程 Java 技术的特点 面向对象 平台无关性 分布式 可靠性 多线程 网络编程 编译和解释并存 大纲 Java 技术概述 Java 平台核心机制 Java 开发环境 Java 基本开发流程 Java 技术的特点 面向对象 平台无关性 分布式 可靠性 不支持直接操作指针,避免了对内存的非法访问; 自动单元回收功能防止内存丢失等动态内存分配导 面向对象 平台无关性 分布式 可靠性 多线程 C++ 没有内置的多线程机制,需调用操作系统的 多线程功能来进行多线程序设计;Java 提供了多线 程支持。 网络编程 编译和解释并存 大纲 Java 技术概述 Java 平台核心机制 Java 开发环境 Java 基本开发流程 Java 技术的特点 面向对象 平台无关性 分布式 可靠性 多线程 网络编程 编译和解释并存0 码力 | 33 页 | 1.17 MB | 1 年前3openEuler 23.09 技术白皮书
创新版本 openEuler 22.09 openEuler 23.09 openEuler 23.03 长生命周期版本 : 每两年发布一次,在创 新版本基础上提供长生命周期管理,维护 性能,可靠性和兼容性 创新版本 : 长生命周期版本之间每半年发 布一次,集成 openEuler 以及其他社区最 新版本技术进展。 openEuler 社区主线 20.03 首个创新版 内核创新版 云原生创新版 个进程组使用的内存超过了 Memcg 的限制时,Memcg 会触发内存回收,以确保系统的稳定性和可靠性。Memcg 异步回收是一种优化机制,它 可以在系统负载较低的时候,异步地回收 Memcg 中的内存,以避免在系统负载高峰期间出现内存回收的延迟和性能 问题。这种机制可以提高系统的稳定性和可靠性,同时也可以提高系统的性能和响应速度。 • 支持 filescgroup:Cgroup files sysMaster 是一套超轻量、高可靠的服务管理程序集合,是对 1 号进程的全新实现,旨在改进传统的 init 守护进程。 它使用 Rust 编写,具有故障监测、秒级自愈和快速启动等能力,从而提升操作系统可靠性和业务可用度。 sysMaster 支持进程、容器和虚拟机的统一管理,并引入了故障监测和自愈技术,从而解决 Linux 系统初始化和服务 管理问题,致力于替代现有 1 号进程,其适用于服务器、云计算和嵌入式等多个场景。0 码力 | 52 页 | 5.25 MB | 1 年前3RocketMQ v3.2.4 开发指南
..................................................................................... 15 6.5 数据可靠性 .................................................................................................. 的性能。 RocketMQ 参考了 Kafka 的持丽化方式,充分利用 Linux 文件系统内存 cache 来提高性能。 4.6 Message Reliablity 影响消息可靠性的几种情冴: (1). Broker 正常关闭 (2). Broker 异常 Crash (3). OS Crash (4). 机器掉电,但是能立即恢复供电情冴。 (5). 机器无法开机(可能是 息全部丢失。RocketMQ 在返两种情冴下,通 过异步复制,可保证 99%的消息丌丢,但是仍然会有极少量的消息可能丢失。通过同步双写技术可以完全避免单点, 同步双写势必会影响性能,适合对消息可靠性要求极高的场合,例如不 Money 相关的应用。 RocketMQ 从 3.0 版本开始支持同步双写。 4.7 Low Latency Messaging 在消息丌堆积情冴下,消息到达 Broker0 码力 | 52 页 | 1.61 MB | 1 年前3清华大学 DeepSeek+DeepResearch 让科研像聊天一样简单
注格式规范,引用的文献来自 真实数据源,确保内容的准确 性和可靠性 参考文献20篇以内,涵盖国内 外学术文献,参考文献标注格 式不规范,引用的文献来自真 实数据源,确保内容的准确性 和可靠性 参考文献50篇以内,只涵盖国 内学术文献,参考文献标注格 式较为规范,引用的文献来自 真实数据源,确保内容的准确 性和可靠性 生成内容引用了高质量的学术 文献和行业报告,参考文献标 研究者可以根据自身需求 进行二次开发和优化 可定制性 允许研究者根据特定应用 场景进行定制,从而更好 地满足需求 社区支持 使其在学术研究和工业应 用中具有广泛的应用前景 可解释性和可靠性 需要采取措施确保模型的 可靠性和可解释性 社区参与 需要社区成员的共同参与 维护和更新,需要较高的 社区活跃度和凝聚力 安全性 需要采取措施确保模型的 安全性和隐私保护 模型 训练成本 调用成本 (输入/百万 与GPT-4o对比 相比传统GPT-4o模型,Deep Research在多步推理、数据验证、处理 速度和信息追溯性方面表现出明显优势。这些提升有助于模型在复杂 任务中的表现更好,特别是在需要高可靠性和高效执行场景中。 类别 DeepResearch GPT-4o 功能目标 自动化多步骤研究任务,收集、综合、分析、输出报告 语言生成,支持多种自然语言任务 任务执行方式 多模块协同,逐步执行复杂任务0 码力 | 85 页 | 8.31 MB | 7 月前3CurveFS方案设计
的操作,目前 curve 的元数据缓存使用的 lru cache,因此 list 只能依赖 etcd 的 range 获取方式。如果需要对 list 加速,需要新的缓存结构 c. 扩展性/可用性/可靠性 依赖于第三方kv存储,目前是etcd CurveFS 单机内存元数据设计 类似 fastcfs 和 moosefs 的元数据设计方式,采用通用的 dentry,inode 两层映射关系,所有的元数据都缓存在内存中,持久化在 于这种方式的开发: a. 性能 加载:数据量较大的情况下,元数据节点启动较慢;但是元数据使用 master-slave 可以降低 failover 情况下的加载时间 b. 扩展性/可用性/可靠性 扩展性不够,受限于单机的内存和磁盘,只能纵向扩展 可用性足够,由于是 master-slave 的方式,master 以同步方式调用 slave,slave 在内存中也缓存了全部元数据信息 持久化元数据以及保证多副本数据一致性。基于这种方式开发: a. 性能 由于元数据分片,获取元数据需要跟多个节点进行rpc的交互,因此性能相比单机要弱一些 b. 扩展性/可用性/可靠性 使用 multi-raft, 扩展性、可用性和可靠性与元数据节点一致 对比结论 CurveFS 近期要能支持mysql所要接口,长期需要支持通用文件接口。 kv 虽然改造简单,短期内对基本功能的支持没有问题,但这个架构不利于0 码力 | 14 页 | 619.32 KB | 5 月前3
共 333 条
- 1
- 2
- 3
- 4
- 5
- 6
- 34