每两分钟卡 7 秒，原来怪宿主机用 4 张 V100 跑 Qwen3.8-Flash-Next 有一阵了，一直有个怪毛病：服务时不时整个停住几秒，所有请求一起不动，然后又自己恢复。查了一整天，最后发现问题根本不在推理服务里，改一行配置就好了。 现象 停顿大约每两分钟一次，每次约 7 秒。内存 KV 缓存从 64GB 改成 32GB 以后，缩短到约 3.5 秒。 只在处理新提示词 …2026年10月4日 · 约 1 分钟阅读