三之二、我这一轮推理错了两次
0.2k 字 ·
源文件 进度.md 第 81 行起 ·
goal arch optim selfcorrect
我推理说"第一层是非零初始化,梯度应该能传" —— 错了。 又说"换个损失目标就行了" —— 又错了。
然后我把那个数字直接打印出来,一次就看清了(loss 恰好是 0,所以梯度必然是 0)。
★★ 这是今天第二次同样的事:我推理半天,不如直接量那个量。 (上一次是"参数哈希" —— 一行代码推翻了我整套推理。)