第26章 SIMD与向量化

课程目录第26章 SIMD与向量化

SIMD与向量化：让CPU一次干更多活

说实话，很多C++开发者写了几年代码，都没真正碰过SIMD。我刚开始做性能优化时也是这样——总觉得那是汇编工程师才关心的事。直到有一次，我在处理一个视频编解码项目，CPU占用率死活降不下来，老板天天盯着我。后来一查，发现核心循环压根没被向量化。嗯，从那以后，SIMD就成了我工具箱里的常客。

今天咱们聊聊SIMD和向量化。说白了，就是让CPU一条指令同时处理多个数据。你想想看，本来要循环8次才能算完的东西，现在一次搞定，性能翻倍不是梦。

自动向量化：编译器替你操心

现代编译器其实挺聪明的。你写个简单的for循环，它可能自动就给你转成SIMD指令了。我个人习惯是，先让编译器试试，不行再手动干预。

// 这段代码，编译器很可能自动向量化
void add_arrays(float* a, float* b, float* c, int n) {
    for (int i = 0; i < n; ++i) {
        c[i] = a[i] + b[i];
    }
}

但编译器不是万能的。我在项目中遇到过这样的情况：明明循环很简单，编译器就是不肯向量化。为什么？因为数据有依赖，或者指针可能重叠。

避坑指南：我曾经在一个音频处理库中，因为用了指针运算，编译器死活不向量化。后来加上__restrict关键字，性能直接提升了3倍。记住，告诉编译器「这些指针不重叠」很重要。

想让编译器帮你自动向量化，有几个要点：

循环次数要确定：编译器喜欢固定次数的循环
数据要连续：数组比链表友好得多
没有复杂分支：if-else太多，编译器就怂了
用-O2或-O3编译：不开优化，向量化免谈

手动向量化：自己动手，丰衣足食

自动向量化搞不定的时候，就得我们自己上了。C++里可以用intrinsic函数，说白了就是直接调用SIMD指令的C风格函数。

#include <xmmintrin.h>  // SSE指令集

void add_arrays_sse(float* a, float* b, float* c, int n) {
    int i = 0;
    // 一次处理4个float
    for (; i + 4 <= n; i += 4) {
        __m128 va = _mm_loadu_ps(&a[i]);
        __m128 vb = _mm_loadu_ps(&b[i]);
        __m128 vc = _mm_add_ps(va, vb);
        _mm_storeu_ps(&c[i], vc);
    }
    // 处理剩余元素
    for (; i < n; ++i) {
        c[i] = a[i] + b[i];
    }
}

这段代码看着有点吓人，其实逻辑很简单：一次加载4个float，做加法，再存回去。剩下的不够4个的，用普通循环处理。

小技巧：我建议你写手动向量化代码时，先写一个普通版本做对照。这样调试的时候，可以对比结果对不对。我曾经因为字节对齐问题，调了一整天，最后发现是加载指令用错了。

SIMD指令集对比：选对武器

不同CPU支持的SIMD指令集不一样。x86平台主要有这几代：

指令集	寄存器宽度	可处理数据类型	推出年份
MMX	64位	整数	1997
SSE	128位	整数、浮点	1999
AVX	256位	整数、浮点	2011
AVX-512	512位	整数、浮点	2017

ARM平台有NEON，也是128位。我个人习惯是，服务器端优先用AVX2，移动端用NEON。桌面应用嘛，SSE4.2基本够用，兼容性最好。

你想想看，AVX一次能处理8个float，SSE只能处理4个。如果代码能在AVX上跑，性能直接翻倍。但问题是，不是所有CPU都支持AVX。所以写代码时要做运行时检测。

// 检测CPU是否支持AVX
#include <cpuid.h>

bool has_avx() {
    unsigned int eax, ebx, ecx, edx;
    __get_cpuid(1, &eax, &ebx, &ecx, &edx);
    return ecx & bit_AVX;
}

核心观点：不要为了追求最新指令集而牺牲兼容性。我见过有人硬上AVX-512，结果在老服务器上直接崩溃。多写一个fallback路径，花不了多少时间。

数据对齐与向量化：细节决定成败

SIMD指令对数据对齐有要求。比如SSE的_mm_load_ps要求地址16字节对齐，_mm_loadu_ps则没有这个要求。但对齐的加载指令比未对齐的快很多。

为什么会这样？因为CPU从内存读数据时，对齐的地址可以一次搞定，未对齐的可能要读两次再拼起来。你想想看，这多出来的操作，在高频循环里就是性能杀手。

// 对齐分配内存
float* data = (float*)_mm_malloc(n * sizeof(float), 16);
// 使用对齐加载
__m128 v = _mm_load_ps(data);  // 要求16字节对齐
// 用完释放
_mm_free(data);

在C++17里，可以用alignas关键字：

alignas(16) float data[1024];  // 16字节对齐

避坑指南：我曾经在项目中用std::vector存数据，然后传给SIMD函数。结果发现std::vector的分配器不保证对齐，导致程序时不时崩溃。后来改用自定义分配器才解决。记住，STL容器默认不保证对齐。

说到对齐，还有个常见问题：结构体对齐。如果你的结构体里有float数组，编译器可能会在中间插入填充字节。这时候用SIMD加载，数据就不是连续的了。

struct Point {
    float x;
    float y;
    float z;
    // 编译器可能在这里填充4字节，让结构体大小变成16字节
};

// 用alignas强制紧凑布局
struct alignas(16) PointAligned {
    float x;
    float y;
    float z;
    float w;  // 显式填充，凑够16字节
};

知识体系总览

下面这张图，是我梳理的SIMD与向量化知识结构。你可以把它当作一个检查清单，看看自己哪些地方还没掌握。

这张图把SIMD的核心知识点串起来了。从自动向量化到手动向量化，从指令集选择到数据对齐，每一步都有坑，但也都有对应的优化手段。

最后说一句：SIMD不是银弹。如果你的程序瓶颈在内存带宽，而不是计算，那向量化帮不了太多。我建议你先用profiler跑一下，看看热点在哪，再决定要不要上SIMD。盲目优化，不如不优化。

总结一下：自动向量化是首选，省心省力；手动向量化是备选，性能极致；指令集选择要权衡兼容性；数据对齐是基础，不做好后面全白搭。记住这四点，SIMD这条路你就能走稳了。

公众号:蓝海资料掘金营，微信deep3321

📚 课程目录

SIMD与向量化：让CPU一次干更多活

自动向量化：编译器替你操心

手动向量化：自己动手，丰衣足食

SIMD指令集对比：选对武器

数据对齐与向量化：细节决定成败

知识体系总览