§30 2026-10-04 凌晨 04:00:"她留不住"的疗法 —— 三个修法与第一个可用配置
·
★★★★★★★
2.1k 字 ·
源文件 PROJECT.md 第 5303 行起 ·
discipline ruler memory
★ 本节是 §29 之后的收口。★ 全部读数用权威口径
eval_f2_all_checkpoints.py。 ★ 主读数按铁律 = 末点相对最好点。 → 完整:journal/FINAL_NUMBER_TABLE.md、journal/RESULT_T8_ALL_THREE_FIXES_FIRST_USABLE_CONFIG.md、journal/RESULT_LRD_DECISIVE_LATE_STEP_SIZE_IS_THE_CAUSE.md、journal/RESULT_LRD_SECOND_SEED_LAST_SNAPSHOT_IS_THE_BEST.md
#30.1 ★★★★★★★ 三个互相独立的修法(全部已实测)
| # | ★ 修法 | ★ 它修什么 | ★ 证据 | ★ 效果 | ★ 成本 |
|---|---|---|---|---|---|
| ① | ★★★ --save-best-fair | ★★ 选择(选出真阳性) | ★ 追溯 13 个跑次 | ★★ 3/13 改变选点(2 个是假阳性) | ★ 零(默认关) |
| ② | ★★★ --restore-best-at-end | ★★ 保住(末点换成最好点) | ★★★★ 4 个跑次 | ★★★ +38.5 / +38.5 / +39.6 / 0 pp | ★ 零(不改训练) |
| ③ | ★★★ --lr-end 0 | ★★★ 训练(末点自己就不丢) | ★★ 3 个种子 | ★★★ 末快照都成为【最好】快照 | ★★ 要重训 |
| ①②③ | ★★★ 一起用 | — | ★ C4_s4 | ★★★ 89.6% / 0.71 格 / 四条同时活 | — |
#30.2 ★★★★★★★ 而修法 ③ 是根因级的
★ REL 基线的末快照是最差的(REL_s4 0.0%、REL_s6 21.9%),
而 --lr-end 0 的三个种子的末快照都是【最好】的:
| ★ 种子 | ★ LRD 末快照 | ★ 对照 REL 末快照 |
|---|---|---|
s4 | ★ 89.6% / 0.71 | 0.0% / 2.68 |
s6 | ★ 40.6% / 1.02 | 21.9% / 2.34 |
s8 | ★ 19.8% / 1.72(格距最好) | 15.6% / 2.65 |
★★ -> 且"移动速度 ≈ 正比于 lr_eff"在 s4 与 s6 上都成立。
⇒ 判决:后半段的【大步长】就是"她留不住"的原因。
#30.3 ★★★★★★ 一个实现缺陷(已修)
★ --save-best 原来只看到位率 ⇒ 它选出过 3 个假阳性
(REL_s8_best.pt 3.54 格、FRZ_s2_best.pt 3.55 格、REL_s8_best_snap200.pt 3.05 格
—— 全都"比不动还远")。
★★ 修法 --save-best-fair 用两个条件的合取,而它还需要【字典序】:
★ 实测 C4_s4:权威口径最好的是 snap1400 89.6%/0.71,
而旧规则选了 69.8%/0.83 —— 因为 acc > _best_acc 在同到位率时不覆盖。
⇒ 已改成 (到位率, -格距) 的字典序(默认关时旧行为逐位不变)。
#30.4 ★★★★★ 而"两个口径"本身是一个诊断量
| ★ 口径 | ★ 定义 |
|---|---|
| A | 末点 / 最好点(受"best.pt 选了哪个点"影响) |
| B | 末点 / 快照序列里的最好快照 |
★ C4_s4:A = 78% 而 B = 100% ⇒ ★★ 那个差距标记"最好点在快照系统【之外】"。
#30.5 ★★★★ 下一步
| # | ★ |
|---|---|
| 1 | ★★ C4_s6(T8 的第 2 种子,在跑) |
| 2 | ★★ 把 --save-best-fair(含字典序)变成默认 |
| 3 | ★ 用三个修法重测一个"干净"的基线,看最好点能否 ≥ 72/96 且末点守住 |
| 4 | ★★ GN2P 跑到 1400 步(把并发验证扩到末段) |