EVI-006
Evidence
Figure 9/§4.2：等训练算力下大模型 FID 更低；XL/2 约 10^10 Gflops 后反超 XL/4（训练算力效率，支撑 CLM-006）。
| id | |
|---|---|
| updated | |
| type | evidence |
| claims | CLM-006 |
| source | PPR-2212.09748 |
| observation | Figure 9 (FID vs total training compute) + §4.2 'Larger DiT models are more compute-efficient' + Appendix Figure 12/13 |
| method | 以 Gflops x batch x steps x 3 估算总训练算力，对 12 变体（含 XL/2 延长训练）画 FID-训练算力曲线 |
| scope | 256x256、无 guidance、ft-MSE decoder；网格覆盖 0.36G-118.6G 模型 x 400K-7M 步 |
Result
Figure 9：等训练算力下大模型始终更低 FID；小模型延长训练的曲线渐趋平缓。XL/4 与 XL/2 的交叉：约 10^10 训练 Gflops 后 XL/2 反超（§4.2 原文 “XL/4 is outperformed by XL/2 after roughly 10^10 Gflops”）。附录扩展：趋势对 sFID/IS/Precision/Recall 一致（Figure 12）；训练损失随模型 Gflops 更快下降且饱和值更低（Figure 13）。
Caveats
“compute-efficient” 判读基于 FID 单指标；训练算力估算式忽略数据加载与硬件利用率细节。网格内无 FID 饱和（XL/2 “trained as long as possible”，Table 4 caption）。
关联（15）
- PPR-2212.09748 Scalable Diffusion Models with Transformers
- FRM-2212.09748 DiT 五层重建：以 ViT 替换 latent diffusion 的 U-Net backbone、Gflops 为透镜的 scaling 研究；边界为 class-cond ImageNet 256/512。
- CLM-006 等量总训练算力下大模型更 compute-efficient；仅改 patch size 的模型对在控制训练 Gflops 后性能曲线不同。
- VER-006 核验 CLM-006 训练算力效率：Fig.9 XL-4→XL-2 交叉声明（~10^10 Gflops）与 §4.2 一致，x3 估算因子属 AX-7 约定。supported。
- EVI-001 co-source Table 2/§5.1/App.A.1：DiT-XL/2-G 256 FID-50K 2.27（sFID 4.60/IS 278.24），3 通道 guidance 口径，优于 LDM-4-G 3.60 与 StyleGAN-XL 2.30（支撑 CLM-009）。
- EVI-002 co-source Table 4/Figure 5：XL/2 @400K adaLN-Zero FID 19.47 最低（<adaLN 25.21<cross-attn 26.14<in-context 35.24），排序训练全程保持（支撑 CLM-002）。
- EVI-003 co-source Figure 8/6 + Table 4：12 变体 Gflops-FID 强负相关；异构同 Gflops 的 S/2 68.40 vs B/4 68.38 相近、缩小 p 单调改善（支撑 CLM-003）。
- EVI-004 co-source Table 3/§5.1：DiT-XL/2-G 512 FID-50K 3.04（sFID 5.02/IS 240.82），优于全部 diffusion 但未超 StyleGAN-XL 2.41（支撑 CLM-009）。
- EVI-005 co-source Figure 10/§5.2：小模型多步采样追不平大模型（80.7 Tflops@1000 步 FID 25.9 vs 15.2 Tflops@128 步 23.7），采样算力不可替代模型算力（支撑 CLM-005）。
- EVI-007 co-source Table 5/§A.4：decoder original/ft-MSE/ft-EMA FID 2.46/2.30/2.27，encoder 相同免重训互换，差异有限均优于此前的 diffusion（支撑 CLM-007）。
- EVI-008 co-source App. A.1：3 通道 guidance（1.5）FID 2.27 vs 4 通道（1.375）2.20，近似式 3ch(1+x)≈4ch(1+¾x)（支撑 CLM-012 的口径 caveat）。
- EVI-009 co-source §1 + Table 2/3/6：DiT-XL/2 2.27（256）/3.04（512）vs LDM-4-G 3.60/ADM-G+U 3.94 及 118.6G/524.6G 算力对照——架构论题的经验支撑（支撑 CLM-009）。
- EVI-010 co-source §4.1 + Table 4 + Fig.13：未调参 ADM 配方（lr 1e-4/batch 256 全表一致）全程无 loss spike，训练高度稳定（支撑 CLM-010）。
- EVI-011 co-source §3.2 + Table 1/4：p 减半时参数量近似不变（S 33M 等）、Gflops ≥4×（S 0.36→1.41→6.06），验证 patchify 标度（支撑 CLM-011/TH-1）。
- EVI-012 co-source Table 2/3 行内梯度：256 FID 9.62→3.22→2.27、512 12.03→4.64→3.04，档位间改善递减——CFG 效应与饱和（支撑 CLM-012）。