Research KB 登录

CLM-007 Claim

DiT 对既有 U-Net diffusion 模型的质量优势不依赖 VAE decoder 选择:免重训互换 LDM 原始/ft-MSE/ft-EMA decoder(encoder 相同)后优势均保持。

id
type claim
source PPR-2212.09748
scope DiT-XL/2-G (3-channel guidance, cfg=1.5), ImageNet 256x256, 7M steps; FID-50K via ft-EMA/ft-MSE/LDM-original VAE decoder swap (no retraining)
epistemic supported
lifecycle RECONCILED
updated

Proposition

DiT 相对既有 U-Net diffusion 模型的质量优势不依赖于 VAE decoder 的具体选择:同一 diffusion 权重下互换未重训的 LDM 原始 decoder 与 SD 微调 decoder(ft-MSE/ft-EMA,encoder 相同),优势均保持。

Evidence refs

Notes

该消融隔离了 decoder 权重对最终指标的贡献,说明 DiT 相对 U-Net diffusion 模型的优势不依赖 SD 微调 decoder(§A.4:“XL/2 continues to outperform all prior diffusion models when using the LDM decoder”)。三种 decoder 的口径分工见 CPT-005。decoder 选择对“是否超过 GAN 基线”的边界判定有实质影响:用 LDM original decoder 时 FID 2.46 劣于 StyleGAN-XL 2.30,“全部生成模型中最低 FID”仅在 ft-MSE/ft-EMA 下成立(本库综合,锚 Table 5 与 Table 2;见 EVI-007 Caveats)。

关联(15)

  • PPR-2212.09748 Scalable Diffusion Models with Transformers
  • BMK-004 ImageNet class-conditional generation (256×256 / 512×512)
  • FRM-2212.09748 DiT 五层重建:以 ViT 替换 latent diffusion 的 U-Net backbone、Gflops 为透镜的 scaling 研究;边界为 class-cond ImageNet 256/512。
  • EVI-007 Table 5/§A.4:decoder original/ft-MSE/ft-EMA FID 2.46/2.30/2.27,encoder 相同免重训互换,差异有限均优于此前的 diffusion(支撑 CLM-007)。
  • CPT-005 VAE decoder variants (ft-MSE / ft-EMA)
  • VER-007 核验 CLM-007 decoder 消融:Table 5(2.46/2.30/2.27)与 §A.4(encoder 相同、免重训互换、LDM decoder 下仍最优)一致。supported。
  • SYN-002 三源合成:diffusion 管线三段可分解改造——LDM 表示层(latent 感知压缩)、DiT 骨干层(ViT 替换 + Gflops 标度)、G2DP 采样层(推理期引导插件);三论文是时间上的实际组合链(DiT 复用 LDM first-stage,G2DP 用 DiT 骨干),层独立性判断 CLM-013/009/032 解释组合可行性。
  • CLM-002 co-source 同配置同预算下,条件注入机制的选择对生成质量有决定性影响:adaLN-Zero 调制式注入同时最优质量与最低计算开销,优于 cross-attention 与 in-context。
  • CLM-003 co-source 模型前向 Gflops(而非参数量)主导 DiT 质量:Gflops 相近则 FID 相近,且与 FID-50K 强负相关。
  • CLM-005 co-source 采样算力不能补偿模型算力:DiT 族内小模型即使以数倍单图采样算力生成,FID 仍劣于大模型的低步数采样(锚点数字见 EVI-005)。
  • CLM-006 co-source 等量总训练算力下大模型更 compute-efficient;仅改 patch size 的模型对在控制训练 Gflops 后性能曲线不同。
  • CLM-009 co-source U-Net 归纳偏置对 diffusion 质量非关键:标准 ViT 可直接替换 U-Net backbone,并在同等评估协议下取得优于既有 U-Net-based diffusion 模型的质量。
  • CLM-010 co-source DiT 在未调参 ADM 配方下稳定训练:恒定 lr、无 warmup/正则,全程无 loss spike。
  • CLM-011 co-source patchify 标度:p 减半 → token 与 transformer Gflops 至少 ×4(注意力超线性),参数量近似不变。
  • CLM-012 co-source CFG 大幅改善 DiT 生成质量,收益随 guidance scale 增大而递减,并伴随保真度升、多样性(recall)降的权衡;SOTA 数字均以 guidance 口径取得。