Vectorizing a CFD Code With std::simd Supplemented by Transparent Loading and Storing

• 语言: 英语
• 格式: .pdf
• 来源: github.com/CppCon

摘要

The document discusses the vectorization of a complex CFD code using std::simd, aiming to enhance performance without revolutionary changes. It introduces the SIMD_ACCESS library to enable transparent loading and storing of SIMD and scalar variables, ensuring syntactic equality between scalar and vectorized code. The approach addresses challenges in loop transformation and data layout, maintaining scalar data structures while achieving vectorization. The talk shares experiences with std::simd and highlights the importance of keeping code readable and maintainable.

AI总结

### 总结

这篇文档《Vectorizing a CFD Code With std::simd Supplemented by Transparent Loading and Storing》主要介绍了如何使用`std::simd`对计算流体动力学（CFD）代码中的耗时部分进行向量化，同时保持代码的可读性和维护性。以下是核心内容的总结：

#### 1. **动机与任务**
- **目标**：对复杂现有代码中的耗时部分进行向量化，而不采用革命性的方法。
- **关键点**：
- 使用`std::simd`对标量和向量化代码进行语法上的统一。
- 通过类型推导实现`std::simd`和标量变量的加载和存储。
- **内容**：分享使用`std::simd`进行向量化的经验，并介绍`SIMD_ACCESS`库。

#### 2. **背景与SIMD的优势**
- 现代CPU通过SIMD（Single Instruction, Multiple Data）技术可以同时处理多个数据，显著提高计算速度。
- SIMD的优势在于一条指令可以同时对多个操作数执行加、减、乘、除等运算。
- 文档中通过`std::simd`实现了显式向量化，适用于数据布局为标量的情况。

#### 3. **具体实现与案例**
- **循环体的向量化**：
- 使用`simd_load`和`simd_store`显式加载和存储数据。
- 代码示例：将标量操作`z[i] = x[i] + y[i];`转换为`auto result = simd_load(x, i) + simd_load(y, i); simd_store(z, i, result);`。
- **数据布局与限制**：
- 数据布局为标量，无法采用`array-of-struct-of-array`或`array-of-struct-of-simd`。
- 循环长度较大，但`size`可能较小，不一定是SIMD宽度的倍数。
- **循环优化**：
- 通过重新排列和合并循环体，保持代码的可读性和可维护性。
- 同时支持标量和SIMD两种版本。

#### 4. **特定CFD任务的实现**
- 任务涉及在立方体中每个空间方向（i, j, k）上计算流动。
- 循环遍历立方体的边，具体实现包括：
- 遍历方向：`for dir : (0, 3)`。
- 遍历坐标：`for i|j|k : (0, size)`。
- 遍历立方体顶点：`for c : (i|j|k + 1, size)`。
- 调用`compute_flow`函数。

#### 5. **总结**
- 本文通过`std::simd`和`SIMD_ACCESS`库实现了CFD代码的向量化，显著提升了计算效率。
- 方法的核心是将标量代码和SIMD代码语法统一，并通过显式加载和存储操作实现向量化。
- 代码保持了可读性和可维护性，适用于复杂的现有代码库。

文档通过具体案例和背景说明，展示了如何在实际项目中应用`std::simd`进行向量化，同时兼顾性能和代码的可维护性。