arXiv cs.RO· Tiffany Bao, Shangtao Li, Yifan Sun, Mengwen He, Bowei Li, Alden Wang, Changliu Liu, Ruoyu Wang, David Brumley·· 4 小时前AI 评分58
研究揭示人形机器人安全过滤器缺陷，SIREN 可自动生成碰撞攻击
Not an Accident: Exploiting Safety Filter Inadequacy in Humanoid Robots
AI 导读
论文指出人形机器人安全过滤器的数学保证只在参数配置正确时成立，而参数依赖具体任务与环境，部署后可能失效。作者提出目标插入攻击并开发自动化工具 SIREN，在 SPARK 数据集的所有脆弱场景中均识别出攻击，数量为基线方法的三倍，并在真实人形机器人上触发碰撞。
来源：arXiv cs.RO · arxiv.org