基于LLM辅助判断的在线对话中欺诈和概念漂移的联合检测

Arxiv：2505.07852v2公告类型：替换-交叉摘要：检测数字通信平台中的虚假交互仍然是一个具有挑战性且没有得到充分解决的问题。这些交互可能看起来是无害的垃圾邮件，或者升级为复杂的诈骗企图，因此很难及早发现恶意意图。传统的检测方法往往依赖于静态的异常检测技术，无法适应动态的会话切换。一个关键的限制是将被称为概念漂移的良性话题转变误解为欺诈性行为，导致错误警报或错过威胁。我们提出了一个两阶段检测框架，该框架首先使用定制的集成分类模型来识别可疑对话。为了提高检测的可靠性，我们加入了一个概念漂移分析步骤，使用一个单类漂移检测器(OCDD)来分离标记对话中的对话转移。当检测到漂移时，大型语言模型(LLM)评估这种漂移是否指示欺诈性操纵或合法的主题改变。在没有发现漂移的情况下，该行为被推断为类似垃圾邮件。我们使用一个社会工程聊天场景的数据集来验证我们的框架，并展示了它在提高实时欺诈检测的准确性和可解释性方面的实际优势。为了权衡取舍，我们将我们的模块化方法与使用不同语言模型执行检测和判断的双LLM基线进行比较。