第14章缓存一致性

课程目录第14章缓存一致性

14、缓存一致性：MESI协议、缓存行伪共享、alignas对齐、cache line padding

各位同学，今天我们来聊聊多核编程里一个绕不开的话题——缓存一致性。说实话，这个问题我早年做服务器后端时踩过不少坑。你想想看，明明代码逻辑没问题，一上多核就跑出诡异的结果，查半天发现是缓存惹的祸。

现代CPU和内存之间有个巨大的速度鸿沟。CPU每秒能执行几十亿条指令，而内存访问一次要几百个时钟周期。所以硬件工程师在中间加了一层又一层缓存：L1、L2、L3。每个核心有自己的L1/L2缓存，共享L3缓存。

问题来了：当两个核心各自缓存了同一块内存数据，一个核心修改了它，另一个核心还蒙在鼓里。这就叫缓存不一致。我当年调试一个多线程计数器，两个线程各跑在一个核心上，累加结果总是比预期少——就是因为一个核心改了值，另一个核心还在用旧值。

MESI协议是解决这个问题的经典方案。它给每个缓存行（Cache Line）定义了四种状态：

核心思想是：每个缓存行在任意时刻只能处于一种状态。当核心要写一个缓存行时，必须先通知其他核心把该行置为无效。这就是所谓的「写失效」协议。

我个人习惯把MESI理解成一套「广播通知」机制。核心A要修改数据，先吼一嗓子：「兄弟们，这个地址我要独占啦！」其他核心听到后，如果自己有这份数据，就标记为无效。下次再读，就得从内存重新加载。

关键点：MESI保证了所有核心看到的内存视图是一致的。但代价是频繁的缓存同步操作，这会带来性能开销。

伪共享（False Sharing）是我在实际项目中遇到的最隐蔽的性能问题之一。先看个例子：

struct Data {
    int a;  // 核心1频繁读写
    int b;  // 核心2频繁读写
};

a和b在内存中相邻，很可能落在同一个缓存行里（通常64字节）。核心1修改a，导致整个缓存行失效；核心2要读b，发现缓存行无效，只能重新加载。明明两个核心操作的是不同变量，却因为共享同一个缓存行而互相拖累。

我曾经优化过一个网络框架，压测时发现CPU利用率上不去，但两个工作线程都在忙。用perf一看，L1缓存缺失率奇高。排查后发现就是两个线程的统计变量挨在一起，触发了伪共享。

避坑指南：伪共享不会导致程序出错，但会让性能断崖式下跌。我曾经见过一个程序，加了伪共享修复后，吞吐量提升了3倍。所以多核编程时，一定要留意那些被不同线程频繁读写、又恰好相邻的变量。

C++11引入了alignas关键字，让我们可以控制变量的对齐方式。为什么要对齐？因为CPU访问对齐的数据效率最高，而且可以避免跨缓存行的问题。

// 让变量按64字节对齐，确保它独占一个缓存行
alignas(64) int counter1;
alignas(64) int counter2;

这样counter1和counter2就不会挤在同一个缓存行里了。我个人习惯在定义多线程共享的「热点」变量时，都加上alignas(64)。虽然会浪费一点内存，但换来的是性能的稳定。

你可能会问：为什么是64字节？因为现代x86_64 CPU的缓存行大小就是64字节。ARM架构有些是32或128字节，写代码前最好查一下目标平台的规格。

除了用alignas，还有一种更传统的手法叫缓存行填充（Cache Line Padding）。就是在变量后面加一堆无用的字节，把不同变量隔开。

struct PaddedData {
    int a;
    char padding[60];  // 填充到64字节
    int b;
    char padding2[60]; // 填充到64字节
};

嗯，这方法有点土，但很有效。C++17之后，我们有了更优雅的方式：

struct alignas(64) AlignedData {
    int a;
};
struct alignas(64) AlignedData2 {
    int b;
};

每个结构体都按64字节对齐，自然就不会共享缓存行了。我个人更推荐用alignas，代码更清晰，也更容易维护。

下面这张图总结了本章的核心逻辑：

说了这么多理论，最后给几条我自己的实战经验：

先测量，再优化。不要一上来就到处加alignas。用perf、VTune这类工具看看缓存缺失率，确认问题出在伪共享上再动手。
热点变量单独对齐。那些被不同线程高频读写的变量，每个都按缓存行大小对齐。我一般会写个宏：#define CACHE_ALIGN alignas(64)，方便统一管理。
注意结构体布局。把同一线程访问的变量放在一起，不同线程访问的变量用填充隔开。这比事后加alignas更高效。
不要过度优化。如果变量访问频率很低，伪共享的影响可以忽略。为了一个每秒只读写几次的变量浪费63字节填充，不值得。

小技巧：如果你用C++17，可以试试std::hardware_destructive_interference_size，它会返回当前平台缓存行的大小。这样写出来的代码更可移植。

好了，缓存一致性这块就聊到这儿。记住一句话：多核编程里，性能瓶颈往往不在算法复杂度，而在内存访问模式。把数据放对位置，比把代码写对更重要。

公众号:蓝海资料掘金营，微信deep3321