System 1模型的搭便车指南：超越LLMS的快速决策

Arxiv：2610.33775v2公告类型：替换摘要：大型语言模型擅长推理和生成，但其自回归、逐个令牌的推理使它们变得不必要地缓慢、昂贵，并且对于现代人工智能系统在亚秒级延迟时需要的许多常规决策(路由、门控、评分、分类)校准不佳。越来越多的模型填补了这一差距：System 1决策模型，即在一次向前传递中将输入直接映射到类型化、结构化决策的体系结构。本指南提供了一个全面的，以实践者为导向的治疗领域。我们提出了一个涵盖基于编码器的分类器、奖励模型、非自回归决策引擎、对比决策模型和提取模型的五个家族分类，并深入介绍了每个家族的体系结构、训练方法和部署权衡。一个中心主题是校准：我们发展了适当的评分规则理论，分析了用于校准决策的强化学习(RLCD)，并检查了最近发现的现象，包括IIA违规、有序尺度偏差和分布偏移下的少数几次重新校准。在集成方面，我们描述了System 1模型如何作为代理工作流中的决策基础设施，以及System 1+System 2如何基于校准的置信度在快模型和慢模型之间进行级联。该指南涵盖了18个应用领域，描绘了快速增长的开源生态系统(几周内超过70个模型复制)，提供了可运行的代码，包括从业者的核对表、一个开源模型动物园和22个带有详细答案的自我评估问题。它涵盖190篇参考文献，旨在为从事快速决策、校准和生产人工智能系统的研究人员和工程师提供一个统一的切入点。