W3-7 不断纠正,为什么仍然可能越调越偏?

房间冷了就开暖气,模型出错就调整参数,题目做错就订正。我们很容易相信:只要每次都在纠正,结果总会越来越接近目标。

但暖气仍会起伏,训练可能发散,做过订正也未必会解新题,人人都想平稳行驶的车队仍可能堵住。这一周六篇文章,实际上围绕着同一个问题:根据观察到的偏差采取行动,为什么有时能改善结果,有时却引起波动,甚至让我们误判行动的功劳?

答案不能缩成一句“反馈有用”或“不要过度纠正”。需要逐步看清:看到了什么,改变了什么,影响经过多久出现,又用什么证据判断有效。

暖气与降噪:同样在调整,时间尺度很不同

《暖气为什么要一会儿开、一会儿关?》从一个缓慢的过程开始。停止加热后,房间还会与外界交换热量;墙体和家具的温度也不会立刻随开关改变。一次读数只是这个持续过程中的一个时刻。

开关温控可以把启动与停止设在两个不同阈值,中间保留原状态,从而减少临界点附近的频繁切换。这种滞回允许一定起伏。评价控制时,因而要看温度范围和切换行为,而不能要求每一个瞬间都等于设定值。这里讨论的是一种控制方式,不是所有暖气的统一算法。

《降噪耳机为什么要再制造一种声音?》则把时间要求推得更紧。在线性近似下,耳旁的声压变化相加;幅度合适、相位相反时,额外声音能够减弱噪声。OpenStax 的声音干涉章节解释了这一物理基础。

一个教学计算足以显示时机的重要:500 赫兹声音的周期是 2 毫秒,1 毫秒就占半个周期。若理想反相信号额外迟到这么久,在这个单频模型中便会转为同相。它不是产品实测,也不能用来断言某款耳机的表现。声波相消本身还不等于反馈回路,主动降噪也有前馈架构。

参数优化:方向正确,幅度仍可能错

《AI 学习时,为什么步子太大反而学不好?》区分了“往哪边改”和“改多少”。梯度给出当前位置的局部变化率,学习率控制沿负梯度移动的幅度。《动手学深度学习》说明,过大的学习率可能导致发散。

回顾原文的教学模型:L(w) = (w − 3)² / 2。用固定学习率 η 更新后,偏差满足“新 w − 3 = (1 − η) × (旧 w − 3)”。η 为 0.5 时,偏差减半;为 1.5 时,偏差变号但绝对值仍减半;为 2.5 时,绝对值反而变为原来的 1.5 倍。

所以,“跨过最低点”不自动等于失败,要看偏差是否逐步缩小。这个条件来自特定函数和精确梯度,不能拿来给所有神经网络设统一阈值。温差与损失梯度的单位、含义和形成方式都不同;相似之处在于行动幅度值得检查,并不是两套机制严格等价。

学习纠错:先问反馈究竟提供了什么

《题目做错以后,只看正确答案够吗?》把问题再往前推了一步:如果只知道结果错了,却不知道哪一步推理不成立,再努力地重复也未必修复关键错误。

Butler 等人 2013 年的原研究让参与者阅读短文并回答概念问题。解释性反馈与正确答案反馈在重复题上的表现相当,但解释性反馈在新推断题上更好。这支持该任务中的迁移优势,不能推出所有长解释都优于短答案。

人需要理解提示、联系已有知识,再把信息用于新问题。不能把“多给一点解释”直接当作调大机器的控制系数。检查订正是否有用,也应与目标对应:会抄原答案、会独立重做、会迁移应用,是不同层次的证据。

成绩反弹:结果变好,不一定全是行动的作用

《批评之后进步,就能说明批评有效吗?》提醒我们,连“纠正后确实改善”也还没有完成因果判断。一次极低的表现可能混入暂时的不利因素;按这次成绩挑出的人,后续平均表现可能变得不那么极端。

这种回归均值不需要一股力量把成绩拉回去。Martin Bland 的大学讲解展示了极端组筛选与重复测量的关系,也说明了为何研究行动效果需要合适的并行对照。

因此,不能因为批评后回升,就把全部进步算作批评的效果;同样也不能据此断言批评毫无作用。这里处理的是变化应如何归因,与前面参数一步跨得太远是两种问题:一种涉及统计判断,另一种涉及更新过程本身。

车流:局部调整还会成为别人的输入

《前面没有事故,车流为什么还会堵住?》把观察范围从一个对象扩展到许多相互连接的对象。一辆车调整速度,会改变后车面对的间距和相对速度;后车的动作又继续传下去。

Sugiyama 等人的环形路实验让 22 辆车在周长 230 米的道路上行驶,观察到间距波动发展为走停波。它表明,在所测试条件下,没有固定瓶颈也能形成拥堵;并不表示所有道路拥堵都来自同一种原因。

这里的关键不是某个人有没有努力纠正,而是扰动经过车队后被削弱还是放大。车流中的速度、距离和相互作用有具体动力学,不能从某个 AI 算例的学习率阈值推导道路的稳定条件。

把行动与判断一起放回完整过程

把六篇并排看,可以得到一组实用的追问:目标是否清楚,测到的量是否代表目标,动作改变的是哪个环节,幅度和时间是否合适,影响会不会传给其他对象?这些是阅读不同案例后形成的思考线索,不是一条经过六个领域共同验证的万能定律。

还要把“系统怎样变化”与“我们如何知道原因”分开。温度起伏可能是正常控制过程;训练曲线抖动需要结合更新与数据检查;成绩回升则需要考虑选择和对照。曲线外形相似,不能替代机制证据。

下一次准备加大一次调整时,不妨先保留原来的记录,明确希望观察什么,再为结果留下足够的检验。持续纠正的价值,不在动作次数本身,而在每次行动是否更贴近真实过程,以及我们是否更有依据地理解了它的后果。


评论

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注