研究提出目标插入攻击，SIREN 可致人形机器人碰撞

Tiffany Bao 等作者提出针对人形机器人安全过滤器的“目标插入攻击”，并开发自动化工具 SIREN。论文称，这类安全过滤器的数学保证只在安全参数配置正确时成立，而参数依赖具体任务与环境，部署后可能失效。 作者称，SIREN 能为给定任务和环境自动找出可插入的脆弱目标，在 SPARK 数据集所有脆弱场景中均识别出攻击，数量为基线方法的三倍；他们还在真实人形机器人上生成攻击，使其在执行任务时发生碰撞。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。