14、虚函数与缓存：虚函数对CPU缓存的影响、vtable的缓存局部性、虚函数调用的缓存缺失分析、优化策略
这一章我们来聊聊虚函数和CPU缓存之间的“爱恨情仇”。
很多人写C++多年，知道虚函数有性能开销，但具体开销在哪？
有人说是间接调用慢，有人说是vtable查找慢。
其实，真正的“大头”往往不是指令本身，而是——缓存缺失。
我个人习惯把虚函数调用比作一次“内存旅行”。你想想看，每次调用虚函数，CPU都得先去vtable取地址，再跳到实际函数。这一路上，如果缓存没命中，代价可不小。
14.1 虚函数调用的“内存旅行”
先看一个最简单的例子：
class Base {
public:
virtual void foo() {}
};
class Derived : public Base {
public:
void foo() override {}
};
void call(Base* p) {
p->foo(); // 虚函数调用
}
这段代码背后发生了什么？
第一步，从p指向的对象中取出vptr（虚函数表指针）。
第二步，通过vptr找到vtable，再定位到foo的函数地址。
第三步，跳转到那个地址执行。
每一步都是一次内存访问。如果对象、vtable、函数代码都不在缓存里，那就是三次缓存缺失。
我在项目中遇到过这样一个场景：一个高频调用的虚函数，性能分析显示L1缓存缺失率高达30%。当时排查了很久，最后发现是对象在内存中分布太散，vtable也分散在不同页上。
14.2 vtable的缓存局部性
vtable本身是一张函数指针表。同一个类的所有对象共享同一个vtable。
这意味着：如果你连续调用同一个类的多个对象的虚函数，vtable大概率还在缓存里。
但问题来了——如果这些对象属于不同的派生类呢？
比如：
std::vector<Base*> vec;
vec.push_back(new DerivedA());
vec.push_back(new DerivedB());
vec.push_back(new DerivedC());
for (auto* p : vec) {
p->foo(); // 每次可能跳到不同的vtable
}
每次循环，vptr指向的vtable都不一样。CPU得重新加载vtable，缓存局部性很差。
我记得有一次优化一个游戏引擎的更新循环，里面全是多态对象。把对象按类型分组后，缓存命中率提升了将近40%。
14.3 缓存缺失的三种类型
虚函数调用可能引发三种缓存缺失：
| 缺失类型 | 原因 | 影响程度 |
|---|---|---|
| 对象本身缺失 | 对象不在缓存中 | 高 |
| vtable缺失 | vtable不在缓存中 | 中 |
| 函数代码缺失 | 虚函数实现代码不在指令缓存中 | 中高 |
这三种缺失可能同时发生。最坏情况下，一次虚函数调用能引发三次缓存未命中。
你想想看，如果循环里每次调用都这样，性能能好吗？
我曾经在一个网络库中看到，虚函数调用占了总CPU时间的15%，但实际执行指令只占3%。剩下的12%全花在等内存上了。
14.4 优化策略
怎么优化？我总结了几个实战中验证过的方法：
策略一：减少虚函数调用次数
能不用虚函数就不用。比如用std::variant + std::visit替代多态，或者用模板。
// 用模板替代虚函数
template<typename T>
void process(T& obj) {
obj.foo(); // 编译期确定，无虚函数开销
}
策略二：按类型分组处理
前面提到过，把相同类型的对象放在连续内存中处理。
// 按类型分组
std::vector<DerivedA*> groupA;
std::vector<DerivedB*> groupB;
for (auto* p : groupA) p->foo(); // 同一vtable，缓存友好
for (auto* p : groupB) p->foo();
策略三：使用内联缓存（Inline Cache）
这个技巧在JIT编译器中常见，但C++里也可以手动实现。
比如，缓存上一次调用的vtable地址，如果相同就直接跳转：
void fast_call(Base* p) {
static const void* last_vtable = nullptr;
static void (*cached_func)() = nullptr;
const void* current_vtable = *(const void**)p;
if (current_vtable == last_vtable) {
cached_func(); // 直接调用，跳过查找
} else {
last_vtable = current_vtable;
cached_func = /* 从vtable中获取函数指针 */;
cached_func();
}
}
嗯，这个实现有点粗糙，但思路是对的。实际项目中可以用更优雅的方式。
策略四：优化对象内存布局
把对象分配在连续内存中，比如用std::vector存储对象本身（而不是指针）。
但要注意，如果对象是多态的，就不能直接存对象了。可以用std::variant或者对象池。
14.5 知识体系图
下面这张图总结了虚函数与缓存的核心关系：
14.6 避坑指南
我曾经踩过一个坑：在一个实时音频处理系统中，大量使用了虚函数调用。当时觉得“虚函数开销不大”，结果在低延迟场景下频繁出现音频卡顿。
后来用perf一看，L2缓存缺失率高达20%。
怎么解决的？
把虚函数调用改成了函数指针表（手动vtable），并且把函数指针表放在连续内存中。效果立竿见影，缓存缺失率降到了5%以下。
嗯，这里要注意：不是所有场景都需要这么极致的优化。但如果你的系统对延迟敏感，或者虚函数调用是热点，那缓存优化就值得做。
好了，这一章就到这里。下一章我们会聊聊虚函数与多线程的碰撞——那是另一个有趣的话题。