提出理由引导的人类奖励建模框架
热点事件持续更新
提出理由引导的人类奖励建模框架
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
Anshul Nayak 等人提出一种理由引导的偏好强化学习（PbRL）框架，从轨迹级反馈中学习人类奖励模型，并将学到的奖励与环境奖励结合用于策略优化。 该框架在偏好标签之外引入理由标签，说明行为为何被偏好的原因，使奖励模型同时捕捉人类选择及其背后依据。论文称，相比仅用偏好的奖励学习，该方法提供额外监督，并提升策略的可解释性。
AI 根据报道生成 · 2 小时前更新
最新进展10月19日 12:00
基于理由引导的人类奖励模型用于偏好强化学习报道时间线
沿着报道，了解事件的不同侧面。
10月19日
- arXiv cs.RO基于理由引导的人类奖励模型用于偏好强化学习
该论文提出一种理由引导的偏好强化学习（PbRL）框架，从轨迹级反馈中学习人类奖励模型，在偏好标签之外引入解释行为为何被偏好的理由标签。相比仅用偏好的奖励学习，该方法为学习人类对齐奖励提供额外监督，并提升策略的可解释性。学习到的人类奖励与环境奖励结合用于策略优化，使智能体在提升任务性能的同时产生更可解释、更符合人类偏好且对齐人类意图的行为。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。