返回资讯
学术研究

LLM建议的认知性保证:当基本事实不可用时描述依赖的基础

Epistemic Warrant for LLM Recommendations: Characterizing the Basis for Reliance When Ground Truth Is Unavailable

专题配图图片仅供信息参考图片仅供参考版权归原作者
摘要

Arxiv:2609.04127v2公告类型:替换摘要:大型语言模型越来越多地用于支持组织决策。尽管它们被迅速而广泛地采用,但用户往往缺乏评估是否依赖特定建议的原则性基础。我们引入了\emph{认知性保证},这是一个决策级结构,它描述了建议被支持的范围。我们通过使用来自四级测试的行为证据来评估推荐的基本授权并将其分配到授权类别的信赖度证书来操作该构造。我们使用结构效度证据的补充形式来评估这种可操作性,包括转换有效性、已知组测试、独立的人类共识、判别分析以及跨模型和替代实现的稳健性。结果表明,证书以理论上预期的方式运行:它的转换实例化了它们预期的关系,证书分配在预先指定的组中增加以表示授权级别的增加,并且更强的分配的授权与更大的独立人类共识相关联。证书分配还捕获了超出语言可信度的信息,并且不容易用决策难度来解释。主要结论在模型和操作上仍然是可靠的。这些发现支持将信赖性证书作为在无法获得基本事实时评估对特定LLM建议的支持范围的认知性保证的可操作性。

原始资料

arXiv cs.AI · 中文编译

查看来源原文 产品参数、测试条件及最新修订以来源原文为准。