单张5090连续生成视频:速度来自整条链的缩减
视频生成 / 推理工程 · 8.5/10 · 值得动手复测
Comfy团队公开了ComfyStreamerH3的实现,并放出代码和运行记录。在单张32GB RTX 5090上,作者记录的热启动测试用23.51秒生成两段各15.08秒、448×256的视频;按输出时长算约为实时播放的1.28倍。这里用的是FastVideo蒸馏版H3及四步采样,不是原版MiniMax H3在完整分辨率下突然达到这个速度。
速度来自多处压缩叠加:稀疏注意力少看部分视频块,用4B视觉语言编码器替代原先更大的文本编码器,采用剪枝和INT8权重,部分计算改用融合的FP4算子,再让视频解码与编码重叠执行。单看某一招都不够;把显存占用从约80GB压到30GB以下,整套流程才装得进一张消费级显卡。代码库包含示例工作流和测试记录,至少提供了复测入口。
它适合实时预览、互动草图和成本实验,却还不是高画质影视成片方案。公开样例只有448×256,作者承认细节和连贯性仍有瑕疵;仓库的23.51秒是11次任务的中位数,也不等于长时间连续运行都稳定。真正值得继续追的是这套“蒸馏模型+小编码器+稀疏计算+流水线”能否在提高分辨率时保住速度。