什么时候更小更环保？为智能人工智能调整合适的语言模型

Arxiv：2610.19345v2公告类型：替换摘要：AI代理使用大型语言模型(LLM)来计划和执行多个步骤。代理应该使用哪种模型，才能以最少的能量、成本和时间可靠地完成其任务？我们将其视为一个多标准决策问题，其中每次调用的比较可能会产生误导：只有当任务的所有步骤都成功时，任务才会成功，失败的尝试仍然会使用资源。因此，我们比较了每个成功完成的任务的资源模型。我们推导出了两个模型交换效率排序的交叉任务长度，这取决于它们每步的可靠性和资源使用情况。每个目标都有自己的交叉。在最短交叉以下，不太可靠的模型占主导地位，在最长交叉之上，较可靠的模型占主导地位，两者之间都是帕累托有效的，由偏好决定。这支持一个两阶段的框架：一个无偏好的优势筛选，然后是受可靠性和可行性约束的有效模型的多标准排名。我们还给出了当可靠性和资源使用在任务过程中发生变化时，这种结构成立的条件。在一个试点中，两个合成代理任务上有15个开放重量模型，通过测量的GPU能量，88个观察到的交叉中有72个预测的交叉落在观察范围内。在20个步骤中，30亿个参数的模型在每个完成的任务中使用的能量是270亿个模型的十分之一；在100个步骤中，17亿个参数的模型使用的能量几乎是80亿个模型的四倍。只有在可预测的任务长度范围内，越小越环保。