返回资讯
学术研究

广义代理迭代:一种迭代策略改进和递归自我改进的形式化框架

Generalized Agent Iteration: One Formal Framework for Iterative Policy Improvement and Recursive Self-Improvement

专题配图图片仅供信息参考图片仅供参考版权归原作者
摘要

Arxiv:2609.13406v2公告类型:替换摘要:当我们谈到递归自我改进(RSI)时,我们说的是一种现象、一种机制还是一种前景?对于自主和不断发展的智能,RSI在许多范围内被声称,而不存在正式描述这些新兴实例的单一框架。它与经典领域的迭代策略改进相对应,其特征是广义策略迭代(GPI),这是一个具有广泛适用性的框架,具有众所周知的理论性质,但仅限于更新原则和评估基础位于代理之外的地方。在本文中,我们提出了广义代理迭代(GAI),这是一个形式化的框架,它将迭代策略改进和RSI描述为单一学习范例的两种情况。GAI将智能体定义为系统中可修改组件的配置,并将学习过程建模为智能体评估和智能体改进的循环。然后,有两个关键的刻度盘区分这些实例,特别是在最近的研究中自我识别为RSI的系统:改进机制是否是试剂的一部分,以及衡量它的标准是否植根于它之外。前者描绘了GPI和RSI之间的边界,后者确定系统的极性是锚定的、目标漂移的或完全自我参照的。此外,我们使用这些坐标将现有系统放置在相同的两个轴上,并使递归自我改进的缺陷一次可声明一个条件。我们认为这篇论文是探索基于经典账户的RSI的正式表征的第一步,使现有系统具有可比性,并为分析和设计新的系统提供原则基础。

原始资料

arXiv cs.AI · 中文编译

查看来源原文 产品参数、测试条件及最新修订以来源原文为准。