缓存一致性:写给初学者的通俗解释
我一开始看到“缓存一致性”这五个字,第一反应是 Redis 和数据库怎么同步。后来才发现,这词在不同场景里说的不是一回事:一个是 CPU 多核缓存之间怎么保证读到最新值,另一个是分布式系统里缓存和数据库怎么不打架。名字一样,坑法不太一样。下面按我自己的理解捋一遍,尽量说人话。
先说结论:缓存一致性不是“缓存永远一样”
缓存本质上是一份副本。副本多了,就有个问题:我改了这份,你那边什么时候能看到?缓存一致性讨论的就是这套规则,而不是要求所有副本在每个瞬间都一模一样。CPU 缓存一致性更关注“多个核读写同一块内存时,不能读到已经作废的数据”;分布式缓存一致性更关注“数据库改了以后,缓存里的旧数据什么时候失效”。前者偏硬件和内存模型,后者偏业务和架构。别急,分开看就清楚多了。
从 CPU 缓存说起:每个核都有自己的小本子
CPU 比内存快太多了,所以现代 CPU 都有 L1、L2、L3 缓存。L1、L2 通常是每个核私有的,L3 大家共享。你可以把内存想成一块公共白板,每个核手里有个小本子,先把常用的数据抄过来,算的时候看小本子,快。
问题来了:核 A 改了 x = 1,核 B 的小本子里还是 x = 0,它按旧值算,程序就出鬼了。更常见的是 x++ 这种操作,看着是一行代码,实际是“读出来、加一、写回去”。两个核同时干,可能都读到 0,都写 1,最后少加了一次。这不是玄学,是缓存副本加上并发导致的。
MESI:改之前先打声招呼
CPU 缓存一致性协议里最常被提的是 MESI,四个状态大概是这么个意思:
Modified:这块数据我改过,只有我有,内存里还是旧的;Exclusive:只有我有,而且是干净的;Shared:大家都有,都是干净的;Invalid:我这份作废了,别用。
一个核要改数据,得先拿到独占权,把别的核里的副本打成 Invalid,然后再改。别人要读,就得等它把新值写回或者传过来。听着挺严谨,但它保证的是“单个地址的读写不会读到错得离谱的旧值”,不等于你写的代码会按你看到的顺序执行。这地方最容易把人绕进去。
可见性和顺序,才是写代码时最坑的
CPU 为了快,会搞 store buffer、invalidate queue,编译器和 CPU 也可能重排指令。结果就是:你代码里先写 data,再写 flag,另一个线程可能先看到 flag,再看到 data 还是旧的。比如:
// 线程 A
data = 42;
flag = 1;
// 线程 B
while (!flag) {}
print(data);
在线程 B 眼里,flag 都变成 1 了,data 没准儿还是 0。你说气不气。解决方式不是“我觉得它应该没问题”,而是用语言提供的同步工具:Java 的 volatile、synchronized,C++ 的 std::atomic 和内存序,Go 的 sync/atomic、channel、Mutex。锁最稳,别一上来就手搓无锁队列,除非你真愿意啃内存模型。
伪共享:两个不相干的变量互相拖累
还有个很隐蔽的坑叫伪共享。缓存不是一个字节一个字节同步的,而是按缓存行来的,常见是 64 字节。假如两个线程分别改 a 和 b,但 a、b 恰好挨着,在同一个缓存行里,那它们就会互相把对方的缓存行打失效。明明改的是两个变量,性能却像在抢同一把锁。
struct {
int a;
int b;
} shared;
要是高并发下发现这个结构体热点很奇怪,可以试着做缓存行对齐或者 padding 把变量隔开。这个优化不是必须的,但知道有这回事,排查问题时少掉点头发。
分布式缓存一致性:Redis 和数据库怎么不打架
回到业务里,常见的“缓存一致性”是 Redis 和数据库之间的事。最常用的套路是 Cache Aside:读的时候先查缓存,没有再查数据库并回填;写的时候先更新数据库,再删除缓存。为什么是删缓存不是更新缓存?因为并发写的时候,更新缓存可能把旧值盖回去,删掉更简单,下次读自然回填。
但删缓存也会翻车。比如读线程缓存没命中,查数据库拿到旧值,写线程更新数据库并删了缓存,读线程再把旧值写回缓存,脏数据就留下了。所以一般还会加上过期时间兜底,必要时延迟双删、订阅 binlog 异步删、删除失败重试。别指望一套代码解决所有并发,业务能接受最终一致,往往比硬追强一致更现实。
写代码时怎么想这件事
我现在的习惯是:看到共享可变状态,先假设它会乱序、会延迟、会被缓存;能加锁就加锁,能用原子变量就用原子变量;分布式缓存一定设 TTL,写路径想清楚删缓存失败怎么办;真要做无锁或者强一致,先写测试和压测,别靠感觉。缓存一致性这玩意儿,说到底就是一句话:副本可以快,但规则得说清楚。
评论
还没有评论。
发表评论
提交后评论将经过自动审核,审核通过后公开展示。