从 Attention 的数学原理出发,逐步拆解 KV Cache 的产生原因、Prefill/Decode 的计算特征差异,以及 vLLM PagedAttention 的页式内存管理。

2026年5月7日 0条评论 25点热度 0人点赞 SPtuan 阅读全文

2025 年 11 月 08 日 - 09 日,周大服 12 周年学术研讨会暨李相俊教授指导会在北京圆满落幕。

2025年11月11日 1条评论 438点热度 0人点赞 SPtuan 阅读全文

braft 是一个较多人使用的 C++ raft 框架。开发者基于其抽象接口实现自己的业务逻辑,方便实现 raft 高可用的服务。本文从 metrics 入手,梳理开发者应该持续关注哪些监控变量。以其为线索,阅读源码探究其实现原理。力争做到心里有谱,不惧异常。

2024年5月12日 5条评论 4715点热度 1人点赞 SPtuan 阅读全文

我们思考了很久,如何筹备一场新人和宾客都能沉浸其中的婚礼。“简单、自由、快乐、分享” 成为了主题。我们找到了生活的答案,并邀请朋友们一同见证。

2024年3月25日 8条评论 3922点热度 6人点赞 SPtuan 阅读全文

本系列文章是笔者阅读微软存储系统论文 《Windows Azure Storage: a highly available cloud storage service with strong consistency》的笔记和思考。

2023年11月28日 0条评论 4066点热度 1人点赞 SPtuan 阅读全文

100 Go Mistakes and How to Avoid Them 阅读笔记。4-Control Structures, 6-Functions and Methods, 7-Error Management

2023年1月18日 0条评论 2894点热度 0人点赞 SPtuan 阅读全文

本文是笔者设计流量复制方案时的一次调研。调研了7层流量复制组件 GoReplay,并 review 了其中一些Plugin的具体实现。  

2022年6月29日 1条评论 5356点热度 1人点赞 SPtuan 阅读全文

2021年可能是我最有体验感的1年。 Simple, Happy, Together 是公司某次 Campign 的主题语,我想用来形容这一年,很合适。  

2022年2月7日 12条评论 11185点热度 5人点赞 SPtuan 阅读全文

最近实施了一个针对某开源软件的压测方案。借这次机会,尝试梳理了自己在考虑和实行压力测试方案时,想到的一些内容,作为思考笔记。

2022年2月6日 3条评论 3268点热度 0人点赞 SPtuan 阅读全文

距离21年1月心急如焚地撤离,10个月逝去。2.5年的喜怒哀乐回忆已经剥离了主观情绪,变成存档。我喝了一升可乐,吃了两斤荔枝,以照片系列的形式,在这里写一点东西。如果你正在和我在2020年一样深陷泥泞,希望这篇文章能给你带来力量。如果将来不幸的我又和2020年一样深陷泥泞, 希望这篇文章也能给我带来力量。

2021年11月6日 4条评论 3105点热度 4人点赞 SPtuan 阅读全文

碰巧去了一次厦门,算是我去过的最靠南的城市了。留下几张照片,给以后的自己康康。  

2019年7月15日 3条评论 3997点热度 0人点赞 SPtuan 阅读全文

比较偶然的机会,以学生的眼光,收集了这个行业的一些信息。包括表层的一些框架和大厂们采用的硬件方案。 一路曲折走过来,以后大概率从事这个行业,应该多多积累信息,别憋死在象牙塔里才是。

2019年3月3日 1条评论 4918点热度 4人点赞 SPtuan 阅读全文

带来一篇迟到的图记。折腾了半年,各方面总算适应下来。能在下半年天时地利人和,奇迹一样得到去演唱会的机会,是2018年中最高兴的事之一。

2019年2月12日 4条评论 4940点热度 0人点赞 SPtuan 阅读全文

又是一年春节,选了几款游戏roll给大家冷静一下。

2019年2月4日 21条评论 4837点热度 0人点赞 SPtuan 阅读全文

嗨多磨。在之前的文章中,我们以Q-Learning为例,先入为主,对强化学习的基本要素和核心思想进行了学习。今天这篇文章,主要是将马尔科夫决策过程单独拿出来探究。它在很多领域都有应用,十分值得单独拿出进行探究和学习。

2018年12月26日 9条评论 9042点热度 2人点赞 SPtuan 阅读全文

新拿到了一块Intel Movidius Neural Compute Stick,是Intel Movidius推出的一款针对神经网络边缘计算加速的usb设备。今天我们来把它和同样低成本的单板计算机树莓派 Raspberry Pi 配合使用,看看综合效能如何。

2018年10月6日 18条评论 11546点热度 10人点赞 SPtuan 阅读全文

最近拿到了基于ZYNQ 7020器件的PYNQ开发板,便有了这篇体验文章。本文首先进行常规的开箱和初见印象描述;随后尝试解释了ZYNQ这一硬件的特色;最后以目标检测为例,体验了PYNQ的开发流程。

2018年9月23日 33条评论 34169点热度 59人点赞 SPtuan 阅读全文

不会用git的机械工程师不是好厨子(指炼丹与炒菜)。

2018年9月8日 6条评论 34171点热度 2人点赞 SPtuan 阅读全文