因果世界模型何时能帮助模块化LLM代理

Arxiv：2610.00012v2公告类型：替换摘要：LLM代理越来越多地在模块化系统中运行，在这种系统中，规划需要协调多个功能组件，这些组件的操作可能会导致下游状态和行为发生变化。这使得干预感知预测至关重要：代理人不仅必须预测下一步可能发生的事情，而且必须预测作为其自身行动的结果将发生什么。我们发现，纯粹的观测世界模型在这样的系统中可能会产生不可减少的干预时间误差，即使它们准确地模拟了观测轨迹。为了解决这一局限性，我们提出了一个因果世界模型框架CausalCompose，它为模块化的LLM代理配备了用于干预感知预测和规划的因果结构。我们从理论上证明，因果组合可以克服这一干预缺口，具有充分的证据和可控的局部误差。在不同的模块化代理环境中进行的实验验证了这些结果：纳入因果结构一致地改进了对干预敏感的推理和规划，尤其是在结构化工具使用系统中，因果依赖直接管理操作执行。我们的结果表明，当因果世界模型帮助模块化LLM代理时：当因果依赖可识别并可用于规划时。