跳到正文
原文
fal.ai Blog· Ismayil Ismayilov·· 2026-02-24AI 评分12

fal.ai 实验:Ulysses 通信与计算重叠优化,Fused QKV 在 2/4 GPU 上提速 37%

Ulysses Unbound: Experiments in Communication–Computation Overlap

AI 导读

fal.ai 在 8 张 B200 上对视频扩散模型常用的 Ulysses 上下文并行做了通信-计算重叠实验:Async Ulysses 让 pre-attention 分块延迟在 2/4/8 GPU 下降约 23–25%,端到端提升约 3%。

来源:fal.ai Blog · blog.fal.ai