20、编译器优化与未定义行为：编译器如何利用未定义行为优化、-O2/-O3下的诡异bug、volatile的作用

说实话，我见过太多工程师被编译器优化坑得欲哭无泪。明明代码逻辑看起来没问题，一开 -O2 就崩，关掉优化又好了。这种问题，十有八九跟未定义行为有关。

今天我们就来聊聊编译器优化和未定义行为之间的「暧昧关系」。我会结合自己踩过的坑，帮你理清这里面的门道。

编译器是怎么利用未定义行为优化的？

先问一个问题：编译器凭什么敢优化你的代码？

答案很简单——它假设你的代码没有未定义行为。一旦你写了 UB，编译器就认为「这条路径永远不会被执行」，然后大胆地做各种优化。

我举个例子你就明白了：

int foo(int* p) {
    int x = *p;
    if (p == NULL) {
        return 0;
    }
    return x + 1;
}

这段代码，你看着是不是觉得「先解引用，再判空，逻辑有问题」？

没错，编译器也是这么想的。它看到 *p 在前面，就默认 p 不可能是 NULL。否则就是未定义行为。于是，它直接把 if (p == NULL) 整段删掉了。

嗯，你没看错。删掉了。

我在项目中遇到过类似的情况。一个同事写了个驱动，先读寄存器值，再判断指针是否有效。结果 -O2 下，判空代码直接消失了，导致空指针解引用，系统崩溃。查了两天才找到原因。

-O2/-O3 下的诡异 bug

为什么 -O0 没问题，一开 -O2 就出 bug？

说白了，-O0 基本不做优化，代码怎么写的就怎么执行。但 -O2/-O3 会做大量激进的优化，比如：

• 死代码消除：删除「不可能执行」的代码
• 循环展开：改变循环的执行顺序
• 指令重排：调整代码执行顺序
• 常量传播：用计算结果替换变量

这些优化本身没问题。问题在于，你的代码里藏着 UB，编译器一优化就暴露了。

来看一个经典例子：

int check_overflow(int a, int b) {
    if (a + b < a) {
        // 溢出处理
        return -1;
    }
    return a + b;
}

你觉得这段代码能检测整数溢出吗？

不能。因为 a + b 溢出本身就是未定义行为。编译器看到 a + b < a 这个条件，直接认为「整数不会溢出」，于是把整个 if 块删掉了。

我记得有一次调试网络协议栈，就遇到了类似问题。一个序列号加法溢出检测，在 -O2 下完全失效。后来改成用 __builtin_add_overflow 才解决。

volatile 的作用

说到 volatile，很多人只知道「防止编译器优化」。但具体防什么、怎么防，就说不清了。

volatile 告诉编译器三件事：

1. 不要删除对这个变量的访问（哪怕看起来没用）
2. 不要重排对这个变量的访问顺序
3. 每次访问都必须从内存读取（不能使用寄存器缓存的值）

你想想看，什么场景需要这个？

最常见的就是硬件寄存器。比如：

// 等待硬件置位标志位
while (!(*(volatile uint32_t*)0x40001000 & 0x01));

// 没有 volatile 的话，编译器可能只读一次寄存器，
// 然后一直用缓存的值，导致死循环

我在做 STM32 驱动时，就犯过这个错。一个 GPIO 中断标志位，忘了加 volatile，结果 -O2 下中断永远进不去。加了 volatile 就好了。

另一个场景是全局变量在中断和主循环之间共享：

volatile int flag = 0;

void interrupt_handler() {
    flag = 1;
}

void main_loop() {
    while (!flag) {
        // 等待中断
    }
    // 处理事件
}

没有 volatile，编译器可能把 flag 优化到寄存器里，永远看不到中断修改的值。

知识体系图

下面这张图总结了编译器优化与未定义行为的关系：

避坑指南

我曾经吃过太多编译器优化的亏，总结了几条经验：

• 硬件寄存器访问必须加 volatile，这是铁律。不加的话，-O2 下大概率出问题。
• 中断和主循环共享的变量，也要加 volatile。但注意，volatile 不保证原子性，如果变量大于 CPU 字长，还需要加锁。
• 不要依赖整数溢出行为。C 标准说溢出是 UB，那就别指望它「回绕」。用 __builtin_add_overflow 或者无符号整数（无符号溢出是定义行为）。
• 指针判空要在解引用之前。这个顺序很重要，编译器不会帮你「纠正」逻辑错误。
• 怀疑是优化问题时，先用 -O0 验证。如果问题消失，再用 -O2 -fno-strict-aliasing 等选项逐步排查。

好了，关于编译器优化和未定义行为，今天就聊到这里。记住一点：编译器是你的朋友，但它很「较真」。你写了 UB，它就按 UB 来优化。别怪编译器，先检查自己的代码。

---

公众号:蓝海资料掘金营，微信deep3321