学术研究

对代理人的提示：通过紧凑的LLM合奏模拟人类偏好

Prompts to Proxies: Emulating Human Preferences via a Compact LLM Ensemble

arXiv cs.AI发布于 10月30日 2 分钟阅读

专题配图图片仅供信息参考图片仅供参考版权归原作者

摘要

Arxiv：2509.11311v3宣布类型：替换摘要：在社会科学研究中，大语言模型越来越多地被用作人类受试者的代理，但外部有效性需要匹配目标人类群体的反应分布。我们研究人口层面的调查对齐：从有限的公共调查数据中重建总体调查答复，而不需要个人层面的人口统计资料或模型微调。我们将这个问题形式化为偏好重构：我们不是将代理代理与人口统计特征相匹配，而是构建了代理代理的函数基础，并通过加权聚集来恢复总体偏好。我们通过Prompt to Proxy($\exttt{p2p}$)来实例化这一想法，这是一个两阶段推理时间系统。阶段1使用结构化的基于属性的提示和熵引导的自适应采样来构建跨越潜在偏好空间的多样化代理池。阶段2使用L1正则化回归来选择与观察到的目标群体响应匹配的紧凑加权集成。在14个美国趋势面板波动中，$\Texttt{P2P}$的平均测试均方误差为0.014，每个调查的平均测试均方误差约为0.8美元，比提示和人口条件基线有所改善。在世界价值观调查中，跨地区迁移实验表明，平均而言，基础表达能力可以优于地区匹配，而针对地区的生成有助于解决文化差异问题。对与SFT一致的调查模型进行的压力测试显示，使用不到3%的培训数据就具有竞争力。这些结果将偏好重建定位为一种基于调查的人口调整的轻量级、外部可验证的替代方案。代码可在https://github.com/bingchen-wang/P2P.上找到

原始资料

arXiv cs.AI · 中文编译

查看来源原文产品参数、测试条件及最新修订以来源原文为准。