工业化欺骗：LLM产生的错误信息对数字生态系统的附带影响

Arxiv：2601.21963v3宣布类型：替换-交叉摘要：自我们2024年的调查以来，生成性人工智能和错误信息研究已经演变。本文提出了一个新的视角，从文献综述过渡到实践对策。我们报告了威胁环境的变化，包括通过大型语言模型(LLM)和多模式系统改进人工智能生成的内容-解决人工智能对信息质量的不利影响。这项工作侧重于我们的实际贡献：JudgeGPT，一个评估人类对人工智能生成新闻的感知的平台，以及RogueGPT，一个用于研究的受控刺激生成引擎。这些工具加在一起，形成了一个实验管道，用于研究人类如何感知和检测人工智能产生的错误信息。我们的发现表明，检测能力有所提高，但代际和检测之间的竞争仍在继续。我们讨论了缓解策略，如基于LLM的检测、接种方法和生成性人工智能的两用性质。