每两分钟卡 7 秒，原来怪宿主机

Sun, 04 Oct 2026 00:00:00 +0000

用 4 张 V100 跑 Qwen3.8-Flash-Next 有一阵了，一直有个怪毛病：服务时不时整个停住几秒，所有请求一起不动，然后又自己恢复。查了一整天，最后发现问题根本不在推理服务里，改一行配置就好了。

现象

一开始以为是推理引擎自己的问题，先后怀疑过 Python 垃圾回收、显存分配器、内存回收、PCIe 带宽。一个个打点测下来，都不是。

真正有用的线索有三条：

申请或释放几 KB 内存却要等 0.8 秒，只能是在等锁。于是到宿主机上抓现场，看是谁在占着这个进程的内存映射锁。

答案是宿主机上 Proxmox 自带的 ksmtuned。它负责调节 KSM（内存页合并），每一轮都会执行：

ps -C kvm -o pss

本意只是统计 kvm 虚拟机进程占了多少内存。但 ps 为了算 PSS，会去读所有进程的 /proc/<pid>/smaps_rollup，过滤是读完之后才做的。读这个文件时，内核要锁住目标进程的内存映射，并把它的页表从头遍历一遍。

我的推理进程每个占 50 多 GB 内存，页表有 110MB，遍历一次要 0.8 秒。这期间，进程里任何申请或释放内存的操作都得等着。4 个推理进程被逐个扫一遍，GPU 就轮流空转，其余的卡在通信里等它，加起来就是好几秒。