§32. 打字通道:保持成立、但发现【照拄】,而它可以被关掉(2026-10-04 深夜)

· ★★★★★★ 1.5k 字 · 源文件 PROJECT.md 第 5438 行起 · ruler optim read memory

#§32.1 ★★★ 保持机制迁到了打字线

判据 T5(写在跑前,含两次修订):

#判据结果
T5-pre2权威最好点 >= 0.60★★★ 通过(1.0000,20 字)
T5-a末点 / 最好点 >= 0.9★★★ 通过(1.00)

★ 而 exp31 原本一个保持修法都没有(只有裸 --save-best)。 现已移植(默认全关 ⇒ 旧行为逐位不变): --lr-end / --lr-decay-frac / --restore-best-at-end / --best-eval-n / --snapshot-every / --best-from-snapshots / --best-min-step。

#§32.2 ★★★★ 但 100% 是【照拄屏幕】得来的

检查点有回显无回显拄的贡献
T5C_s4_best1.00000.00001.0000
T5C_s6_best0.92710.00000.9271

★ 而 exp31 的 help 里早已记录过这个现象(回显关掉后整串 22.7% → 3.1%, 而认字一格不变 60.9%)⇒ 她拿屏幕当外部内存。

#§32.3 ★★★★★ 而【随机切断外部通路】就能把它关掉

判据 T6:唯一变量 = --echo-drop 0.5(训练时每回合 50% 概率不画回显)。

检查点训练时 echo-drop有回显无回显拄的贡献
T6_s4_best0.51.00000.89580.1042
T5C_s4_best01.00000.00001.0000
T5C_s6_best00.92710.00000.9271

★★ 用全新评测种子 777 重报:无回显 0.9479(更高)⇒ 不是 winner's curse。

⇒ ★★★ "嘴巴"的第一步:不靠拄也能把字写出来,而且零架构改动。

#§32.4 ★★★ 一个方法学修正(外部评审指出)

★ 旧做法:选点与报告用同一套评测(固定种子 0 + 96 题)⇒ winner's curse。 ★ 已修:eval_clean 加 --seed;报告用全新种子。

#§32.5 ★★★ 结论台账

新建 journal/CLAIMS_LEDGER.md:每条结论只记证据来源 / 种子数 / 是否消融 / 状态。 ★ 已把自己的结论降级:

  • A4(末点/最好点 = 1.00) ⇒ 在 --restore-best-at-end 下同义反复,不是证据
  • A5(确定性) ⇒ 不是独立复现(TANH 与 T1 是同一个样本)
  • A6(移除 π) ⇒ 以训练种子为单位不显著 ⇒ 探索性

← 返回《PROJECT.md》目录