学术研究

Jacobian Scope：一个统一的符号级LLM属性几何框架

Jacobian Scopes: A Unified Geometric Framework for Token-Level LLM Attribution

arXiv cs.AI发布于 10月30日 1 分钟阅读

专题配图图片仅供信息参考图片仅供参考版权归原作者

摘要

Arxiv：2601.16407v5公告类型：替换-交叉摘要：大型语言模型(LLM)基于上下文中存在的线索(如语义描述和上下文中的示例)进行下一个令牌预测。然而，由于现代体系结构中层级和注意力中心的激增，阐明哪些先前的表征对给定预测的影响最大仍然具有挑战性。我们提出了Jacobian Scope，这是一套基于梯度的令牌级因果归因方法，用于解释LLM预测。基于微扰理论和信息几何，雅可比范围量化了输入标记如何影响模型预测的各个方面，例如特定的对数、完整的预测分布和模型的不确定性(有效温度)。通过横跨教学理解、翻译和情境学习(ICL)的案例研究，我们展示了雅可比作用域如何揭示隐含的政治偏见，揭示单词和短语水平的翻译策略，并阐明最近争论的潜在情境时间序列预测的机制。在6个LLM上的令牌消融忠实性基准(Lambada和IWSLT2017)上，分布级Fisher和温度范围在12个模型数据集设置中的10个显著优于已有的基于梯度的归因方法。为了便于探索定制文本上的雅可比作用域，我们将我们的实现开源，并在https://huggingface.co/spaces/Typony/JacobianScopes.上提供了一个云托管的交互演示

原始资料

arXiv cs.AI · 中文编译

查看来源原文产品参数、测试条件及最新修订以来源原文为准。