从 Attention 的数学原理出发，逐步拆解 KV Cache 的产生原因、Prefill/Decode 的计算特征差异，以及 vLLM PagedAttention 的页式内存管理。
📚 分布式存储漫游指南 - 绝赞连载中！
适合分布式系统开发者、学习者和对存储技术感兴趣的朋友。逐渐整理成开源书籍。如系列文章对您有帮助，请务必给个 ⭐ 支持下！万分感谢！
⭐ GitHub / 在线阅读💬 团子云技术 - 微信公众号
同步更新技术文章和快讯
扫码关注 第一时间获取 😁
最近评论
zzz 发布于 7 天前（04月30日）
SPtuan 发布于 1 个月前（04月03日）
游客爱好者 发布于 1 个月前（03月30日）
SPtuan 发布于 2 个月前（03月03日）
SPtuan 发布于 5 个月前（11月24日）