Rethinking Task Based Concurrency and Parallelism for Low Latency C++

• 语言: 英语
• 格式: .pdf
• 来源: github.com/CppCon

摘要

文档探讨了传统任务队列在并发和并行性中的局限性，特别是在可扩展性、任务公平性和数据与逻辑耦合方面的问题。提出三种主要技术：Signal Trees、Selection Bias和Work Contracts。Signal Trees是一种轻量级、可扩展的任务队列替代方案，支持数百万信号，具有无锁和无等待的特性，远超多生产者多消费者队列（MPMC）的性能。Selection Bias通过消除任务饿死和优先级队列的需求，提供了公平的任务选择机制。Work Contracts基于Signal Trees，提供了一个简单而强大的工具包，用于构建并发和并行系统，通过将数据与逻辑分离，实现了更高效的任务执行。

AI总结

《重新思考任务并发和并行以获得低延迟的C++》摘要：

这篇文章围绕任务并发和并行在C++中的优化展开，提出了一种新的解决方案，核心内容如下：

1. **问题分析：传统任务队列的局限性**
- **资源竞争**：即使是精心设计的无锁队列，在线程数增加时性能也会显著下降。
- **任务分配问题**：采用多个子队列可能导致任务饥饿、负载不均、破坏严格先入先出（FIFO）顺序以及内存开销增加等问题。
- **优先级处理**：传统方法中，任务优先级的处理并不顺畅，难以无缝切换到公平策略。

2. **核心解决方案：三种关键技术**
- **信号树（Signal Trees）**
信号树是一种轻量级、可扩展的锁-free和等待-free数据结构，能够轻松支持数百万个信号。它比多生产者-多消费者（MPMC）队列性能更高，适合替代传统任务队列。
- **偏向性选择（Selection Bias）**
该机制能够公平地选择任务，避免任务饥饿问题，同时支持任务优先级的实现，而无需依赖优先队列。
- **工作合约（Work Contracts）**
工作合约是基于信号树的高级工具，支持将逻辑与数据分离，提供了异步执行、递归执行、单线程保证以及可选的异步销毁功能，是构建并发和并行系统的强大工具。

3. **任务队列的其他问题**
- 数据与逻辑耦合：传统任务队列将逻辑和数据紧密结合，导致任务类型多样时难以管理，且多队列的使用会引发调度和优先级问题。

4. **基准测试与对比**
- 通过对比测试，工作合约在性能上显著优于其他队列实现（如Boost Lockfree、TBB Queue和Moodycamel Queue），展示了其高效性和可扩展性。

总结：
文章提出了一种重新思考任务并发和并行的方法，通过信号树、偏向性选择和工作合约等技术，解决了传统任务队列的性能瓶颈和设计缺陷，为构建高效、低延迟的C++并发系统提供了新的思路和工具。