§32. 打字通道:保持成立、但发现【照拄】,而它可以被关掉(2026-10-04 深夜)
·
★★★★★★
1.5k 字 ·
源文件 PROJECT.md 第 5438 行起 ·
ruler optim read memory
#§32.1 ★★★ 保持机制迁到了打字线
判据 T5(写在跑前,含两次修订):
| # | 判据 | 结果 |
|---|---|---|
| T5-pre2 | 权威最好点 >= 0.60 | ★★★ 通过(1.0000,20 字) |
| T5-a | 末点 / 最好点 >= 0.9 | ★★★ 通过(1.00) |
★ 而 exp31 原本一个保持修法都没有(只有裸 --save-best)。
现已移植(默认全关 ⇒ 旧行为逐位不变):
--lr-end / --lr-decay-frac / --restore-best-at-end / --best-eval-n /
--snapshot-every / --best-from-snapshots / --best-min-step。
#§32.2 ★★★★ 但 100% 是【照拄屏幕】得来的
| 检查点 | 有回显 | 无回显 | 拄的贡献 |
|---|---|---|---|
T5C_s4_best | 1.0000 | 0.0000 | 1.0000 |
T5C_s6_best | 0.9271 | 0.0000 | 0.9271 |
★ 而 exp31 的 help 里早已记录过这个现象(回显关掉后整串 22.7% → 3.1%,
而认字一格不变 60.9%)⇒ 她拿屏幕当外部内存。
#§32.3 ★★★★★ 而【随机切断外部通路】就能把它关掉
判据 T6:唯一变量 = --echo-drop 0.5(训练时每回合 50% 概率不画回显)。
| 检查点 | 训练时 echo-drop | 有回显 | 无回显 | 拄的贡献 |
|---|---|---|---|---|
T6_s4_best | 0.5 | 1.0000 | 0.8958 | 0.1042 |
T5C_s4_best | 0 | 1.0000 | 0.0000 | 1.0000 |
T5C_s6_best | 0 | 0.9271 | 0.0000 | 0.9271 |
★★ 用全新评测种子 777 重报:无回显 0.9479(更高)⇒ 不是 winner's curse。
⇒ ★★★ "嘴巴"的第一步:不靠拄也能把字写出来,而且零架构改动。
#§32.4 ★★★ 一个方法学修正(外部评审指出)
★ 旧做法:选点与报告用同一套评测(固定种子 0 + 96 题)⇒ winner's curse。
★ 已修:eval_clean 加 --seed;报告用全新种子。
#§32.5 ★★★ 结论台账
新建 journal/CLAIMS_LEDGER.md:每条结论只记证据来源 / 种子数 / 是否消融 / 状态。
★ 已把自己的结论降级:
- A4(末点/最好点 = 1.00) ⇒ 在
--restore-best-at-end下同义反复,不是证据 - A5(确定性) ⇒ 不是独立复现(
TANH与T1是同一个样本) - A6(移除 π) ⇒ 以训练种子为单位不显著 ⇒ 探索性