算法不是行为：在下棋神经网络中，学习的先验知识优先于前瞻

Arxiv：2508.21380v4公告类型：替换-交叉摘要：最近的机械学工作揭示了神经网络中的学习算法，从模算法到游戏代理中的搜索和规划。但是，算法结构能保证算法行为吗？我们在Leela Chess Zero中进行了研究，这是最强大的神经国际象棋引擎，在那里以前的工作确定了学习的前瞻性。通过将Logit镜头扩展到其选择走法的策略网络，我们发现正确的谜题解决方案--包括直接将死--通常出现在中间层，但在最终输出中被系统地覆盖，这种现象我们将其称为“遗忘的谜题”。重复之前对这些位置的分析，我们发现前瞻性操作正常--正确延续的未来动作被表示出来，具有因果重要性，并且可线性解码--排除了算法失败的可能性。相反，后发制人越来越倾向于安全地发挥而不是攻击性。为了测试这种转变是否会驱动覆盖，我们根据这些偏好来引导模型，并恢复了71.7%的被遗忘的谜题，提供了安全优先超过算法计算的解决方案的因果证据。这些发现表明，算法结构并不保证算法行为：模型可以在内部解决问题，但仍然会输出错误的答案。