从轮廓到导向向量：个性化文本生成的全局稀疏先验和局部语义校正

Arxiv：2607.21620v2公告类型：替换摘要：个性化文本生成需要模型从历史数据中捕获特定于用户的写作风格。现有的基于检索、参数高效微调或激活控制的方法要么引入了推理和存储开销，要么难以将文体信号与语义内容分开。我们提出了GRICS，这是一个基于稀疏先验的全局-局部激活导向的无训练个性化生成框架。Glass使用稀疏自动编码器从历史响应中提取全局用户风格先验，并在集群交互场景中构建局部对比风格向量。在推理过程中，它将全局和局部向量联合注入不同的模型层，无需检索或参数更新即可实现上下文感知的个性化。在LAMP和LongLaMP上的实验表明，在Rouge指标和LLM作为判断的评估中，Glass的性能优于基于检索、微调和转向的基线。进一步的分析表明，基于SAE的表示对主题和长度转换具有更好的鲁棒性，表明样式信息从语义残基中分离得更好。