吓尿了，双卡5090 32gb跑 qwen3.8 27b nvfp4，9.6K ttft 1.2s，散文接近192toks，16并发超过2000toks，解码速度已经比双gb10的prefill要快了，甚至比 pro6000更快但是不知道为啥我本机一开 kv缓存的nvfp4就遇到解码乱码，用 fp8的 kv缓存就没事，连 opus5.5 大哥调了半天都找不到原因。虽然 fp8 kv 性能比 nvfp4 的还高10%左右，但是 kv 池只有80多万，少了40%。部署方法参考这个repo：网页链接