Research KB 登录

CLM-012 Claim

CFG 大幅改善 DiT 生成质量,收益随 guidance scale 增大而递减,并伴随保真度升、多样性(recall)降的权衡;SOTA 数字均以 guidance 口径取得。

id
type claim
source PPR-2212.09748
scope DiT-XL/2 at 256x256 (7M steps) and 512x512 (3M steps); FID-50K, ft-EMA decoder; 3-channel guidance scales {1.25, 1.50}
epistemic supported
lifecycle RECONCILED
updated

Proposition

classifier-free guidance 大幅改善 DiT 的生成质量,收益随 guidance scale 增大而递减;guidance 同时呈现保真度升、多样性(recall)降的权衡。DiT 的 SOTA 数字均以 guidance 口径取得,无 guidance 时对 U-Net 基线的优势明显收窄。

Evidence refs

Notes

论文框架表述:“Classifier-free guidance is widely-known to yield significantly improved samples ... and the trend holds for our DiT models”(§2.1)。cfg=1.0 等价于标准采样(CPT-003),故“无 guidance” 行即 s=1。评估口径为 3 通道 guidance(见 EVI-008,原 CLM-008 于 2026-09-07 并入作为口径 caveat);样图 caption 的 cfg 1.5–6.0 展示“保真度升、多样性降”的定性趋势(§A.2),不出指标表。

关联(19)

  • PPR-2212.09748 Scalable Diffusion Models with Transformers
  • PPR-2501.15564 Diffusion-Based Planning for Autonomous Driving with Flexible Guidance
  • BMK-004 ImageNet class-conditional generation (256×256 / 512×512)
  • FRM-2212.09748 DiT 五层重建:以 ViT 替换 latent diffusion 的 U-Net backbone、Gflops 为透镜的 scaling 研究;边界为 class-cond ImageNet 256/512。
  • EVI-008 App. A.1:3 通道 guidance(1.5)FID 2.27 vs 4 通道(1.375)2.20,近似式 3ch(1+x)≈4ch(1+¾x)(支撑 CLM-012 的口径 caveat)。
  • EVI-012 Table 2/3 行内梯度:256 FID 9.62→3.22→2.27、512 12.03→4.64→3.04,档位间改善递减——CFG 效应与饱和(支撑 CLM-012)。
  • CPT-002 adaLN-Zero
  • CPT-003 classifier-free guidance
  • VER-012 核验 CLM-012 CFG 梯度:Table 2/3 行内(256: 9.62/3.22/2.27;512: 12.03/4.64/3.04)逐格一致,scale 边界与质量-多样性权衡已记。supported。
  • SYN-002 三源合成:diffusion 管线三段可分解改造——LDM 表示层(latent 感知压缩)、DiT 骨干层(ViT 替换 + Gflops 标度)、G2DP 采样层(推理期引导插件);三论文是时间上的实际组合链(DiT 复用 LDM first-stage,G2DP 用 DiT 骨干),层独立性判断 CLM-013/009/032 解释组合可行性。
  • SYN-003 G2DP 引导谱系四支合成:机制(classifier guidance→CFG→DPS)、扩散规划(Diffuser→MotionDiffuser→Diffusion Planner→FlowPlanner/pSTL/CTG)、安全硬约束(CBF 系)、稠密网格(HYPE/TPP/NaviDiffusor);G2DP 立四支交点——把『稠密分布性网格』放到『可微+时空+入去噪循环』。
  • CLM-002 co-source 同配置同预算下,条件注入机制的选择对生成质量有决定性影响:adaLN-Zero 调制式注入同时最优质量与最低计算开销,优于 cross-attention 与 in-context。
  • CLM-003 co-source 模型前向 Gflops(而非参数量)主导 DiT 质量:Gflops 相近则 FID 相近,且与 FID-50K 强负相关。
  • CLM-005 co-source 采样算力不能补偿模型算力:DiT 族内小模型即使以数倍单图采样算力生成,FID 仍劣于大模型的低步数采样(锚点数字见 EVI-005)。
  • CLM-006 co-source 等量总训练算力下大模型更 compute-efficient;仅改 patch size 的模型对在控制训练 Gflops 后性能曲线不同。
  • CLM-007 co-source DiT 对既有 U-Net diffusion 模型的质量优势不依赖 VAE decoder 选择:免重训互换 LDM 原始/ft-MSE/ft-EMA decoder(encoder 相同)后优势均保持。
  • CLM-009 co-source U-Net 归纳偏置对 diffusion 质量非关键:标准 ViT 可直接替换 U-Net backbone,并在同等评估协议下取得优于既有 U-Net-based diffusion 模型的质量。
  • CLM-010 co-source DiT 在未调参 ADM 配方下稳定训练:恒定 lr、无 warmup/正则,全程无 loss spike。
  • CLM-011 co-source patchify 标度:p 减半 → token 与 transformer Gflops 至少 ×4(注意力超线性),参数量近似不变。