联合优化LLM训练配置的贝叶斯优化再思考
Rethinking Bayesian Optimization for Co-Optimizing LLM Training Configurations
专题配图图片仅供信息参考图片仅供参考版权归原作者摘要
Arxiv：2602.08351v3通告类型：替换-交叉摘要：微调LLM以最大化下游任务的性能需要找到最佳数据和模型配置。这是一个黑箱优化问题，贝叶斯优化(BO)通过顺序评估训练配置并使用观察到的性能反馈自适应地引导搜索走向更好的配置来解决该问题。然而，将BO直接应用于联合数据模型空间面临两个基本挑战：每次迭代完全LLM训练的成本高昂，以及由于问题维度高而需要大量BO迭代才能有效探索。本文介绍了JOBS，这是一种基于BO的方法，可以共同优化数据和模型配置，而不需要在每一次迭代中运行完整的培训。乔布斯分配了优化预算的初始部分，以学习受比例律启发的性能预测器，该预测器仅从少量培训步骤估计完全训练的LLM性能。然后，剩余的预算用于使用此预测器运行BO，从而消除了全面培训运行的需要，并使工作能够在相同的预算内探索更多的数据和模型配置。我们分析了作业的平均后悔，并得出了预测器学习和BO迭代之间的最优预算分配。根据经验，JOBS在一系列不同的下游任务上的表现优于独立的数据和模型优化方法以及现有的多保真BO基线。我们的代码可以在https://github.com/chenzhiliang94/BO-for-LLMs.上找到
原始资料
arXiv cs.AI · 中文编译
查看来源原文 产品参数、测试条件及最新修订以来源原文为准。