arXiv cs.RO· Christian A. Rogers, Qian Lin, Daniel S. Brown·· 3 小时前AI 评分58
VLA 知道自己会失败吗：物理 AI 系统中可解释的成功与失败模式
Do VLAs Know They Will Fail? Interpretable Success and Failure Patterns in Physical AI Systems
AI 导读
研究显示 OpenVLA 激活的稀疏自编码器（SAE）表征包含可预测结果的信息，能在机器人进入不可恢复状态前预测任务失败。作者还定位了与成功或失败特定阶段相关的单个 SAE 特征，并通过激活显著变化的时间区间找出重复出现的行为模式。团队进一步构建基于 VLM 的解释流程，为这些模式生成行为描述，并在留出区间上验证其与特征激活的对应关系。
来源：arXiv cs.RO · arxiv.org