基于理由引导的人类奖励模型用于偏好强化学习

该论文提出一种理由引导的偏好强化学习（PbRL）框架，从轨迹级反馈中学习人类奖励模型，在偏好标签之外引入解释行为为何被偏好的理由标签。相比仅用偏好的奖励学习，该方法为学习人类对齐奖励提供额外监督，并提升策略的可解释性。学习到的人类奖励与环境奖励结合用于策略优化，使智能体在提升任务性能的同时产生更可解释、更符合人类偏好且对齐人类意图的行为。