跳到正文
热点事件持续更新

提出枚举引导的神经HJ安全证书训练框架

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

研究者提出一个验证引导的训练框架,用安全约束的概率枚举检测神经 Hamilton-Jacobi 安全证书中的前向不变性违背,找出证书错误判定安全行为的状态,并生成比标准对抗攻击方法更紧凑、更贴近失败边界的反例集合。 用这些反例微调预训练的 HJ 值函数后,在所有测试基准上可认证区域扩大、认证时间缩短。作者还基于精炼后的证书引入部署时的屏蔽机制,在 Isaac Sim 物理仿真和真实自主赛车实验中,相比名义控制器和基于 LQR 的备份策略实现了零安全约束违背。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月21日
  1. arXiv cs.RO
    枚举引导训练神经 Hamilton-Jacobi 安全证书的研究

    该研究提出一个验证引导的训练框架,用安全约束的概率枚举检测前向不变性违背,生成比标准对抗攻击方法更紧凑、更贴近失败边界的反例集合。用这些反例微调预训练的 HJ 值函数,在所有测试基准上扩大了可认证区域并缩短认证时间;作者还基于精炼后的证书引入部署时的屏蔽机制,在 Isaac Sim 物理仿真和真实自主赛车实验中,相比名义控制器和基于 LQR 的备份策略实现了零安全约束违背。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。