北大和智源团队提出训练框架 LLaMA-Rider，可让大模型自主探索开放世界

据站长之家 11 月 7 日报道，北京大学和北京智源人工智能研究院的团队提出了名为 LLaMA-Rider 的训练框架，旨在让大型语言模型在开放世界中具备自主探索和学习任务的能力。这个框架通过反馈 - 修改机制来实现主动探索，使模型在环境中接收反馈信息，不断调整决策，从而逐渐适应开放环境。

据悉，LLaMA-Rider 采用两阶段训练方法，首先让模型在环境中自主探索，然后将成功经验整合为监督数据集，用于模型微调，提高多任务解决的能力。实验结果显示，LLaMA-Rider 在多任务解决上表现出高采样效率和低训练代价，与强化学习方法相比具有优势。这个研究为大型语言模型在开放世界中的自主学习提供了重要思路。

原文链接