Jimi's Blog
  • 首页
  • 所有文章
  • 关于我
EN

GPU性能优化

16 张 A800 上的 DeepSeek-V4.1-Flash 解码优化

两台 8x A800-40GB 节点跑 DeepSeek-V4.1-Flash(552B)怎么榨出性能?这篇记录从跨机通信瓶颈排除、203GB 知识库 CPU 锁页卸载,到用 Triton 编写 Small-Batch Sparse MLA 和 Fused Markov 采样内核的全过程,中并发下 ITL 下降 24.6%。

26 / 11 / 07 · 9 min

这个分类下还没有文章。

@2026 JimiZhou's Blog · Powered by Cloudflare