标签:DistriFusion

ChatGPT/AI

DistriFusion:高分辨率扩散模型的分布式并行推理框架

FGJ博客 发布于 2024-09-04

DistriFusion是一种高效的分布式并行推理框架,旨在加速高分辨率扩散模型的图像生成过程。它通过应用patch parallelism技术,将图像划分为多个小块并在多个GPU上并行处理,而无需额外的训练。这一方法不仅显著提升了推理速度,最高可达6倍,同时保持了生成图像的高质...