返回资讯
学术研究

RLTL;DR:通过内化自身生成的反馈实现自我改进

RLTL;DR: Self-Improvement by Internalizing Self-Generated Feedback

专题配图图片仅供信息参考图片仅供参考版权归原作者
摘要

具有可验证奖励的强化学习(RLVR)的常见范式,是让智能体多次尝试任务,并朝成功的尝试进行优化。但在自我改进场景中,这种范式会遇到问题:任务可能难到智能体成功机会很小甚至为零,同时也没有教师模型或示例解法可供蒸馏。本文提出 RLTL;DR。每次尝试失败后,我们向策略展示验证器输出,让它以一条简短的 TL;DR 洞见写出自己的反馈。下一次运行则以……为条件。

原始资料

Apple Machine Learning Research · 来源摘要

查看来源原文 产品参数、测试条件及最新修订以来源原文为准。