SafeDojo用世界模型想象提升VLA策略安全
热点事件持续更新
SafeDojo用世界模型想象提升VLA策略安全
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Kai Tang 等提出 SafeDojo，一种基于模型的安全强化学习框架：在交互式视频世界模型之上做在线强化学习，用 ResNet 分类器为预测的未来帧打分，配合轻量级安全头预测每步接触概率，再以拉格朗日约束的 GRPO 平衡任务执行与轨迹安全，从而改进视觉-语言-动作（VLA）策略，避免昂贵的真实世界探索或手工设计安全函数。 在 SafeLIBERO Level I 上，SafeDojo 将平均安全成功率较最强基线提高 8.25 个百分点；在零样本 Level II 设定下，其表现与最强的无模型基线相当。真实 Franka 机器人在五个任务上的部署中，SafeDojo 取得最佳的平均任务成功率与安全成功率。
AI 根据报道生成 · 1 小时前更新
最新进展10月22日 12:00
SafeDojo：通过交互式世界模型实现VLA的安全强化学习报道时间线
沿着报道，了解事件的不同侧面。
10月22日
- arXiv cs.ROSafeDojo：通过交互式世界模型实现VLA的安全强化学习
SafeDojo 提出一种基于模型的安全强化学习框架，通过世界模型想象来改进视觉-语言-动作（VLA）策略，避免了昂贵的真实世界探索或手工设计安全函数的依赖。该方法在交互式视频世界模型之上进行在线强化学习，用 ResNet 成功分类器为预测的未来帧打分，配合轻量级安全头从当前隐状态上下文和候选动作块预测每步接触概率，再通过拉格朗日约束的 GRPO 平衡任务执行与轨迹安全信号。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。