随机神经控制屏障函数（SNCBF）的可验证安全合成方法
该研究提出随机神经控制屏障函数（SNCBF）的可验证安全合成方法，针对平滑激活函数与ReLU两种情形，分别给出免验证合成框架和验证在环合成框架。方法在倒立摆、Darboux和独轮车模型三个案例上完成验证。
#Safety and alignment
arXiv cs.ROAI 评分4646 arXiv cs.ROAI 评分6060 SafeDojo：通过交互式世界模型实现VLA的安全强化学习
SafeDojo 提出一种基于模型的安全强化学习框架，通过世界模型想象来改进视觉-语言-动作（VLA）策略，避免了昂贵的真实世界探索或手工设计安全函数的依赖。该方法在交互式视频世界模型之上进行在线强化学习，用 ResNet 成功分类器为预测的未来帧打分，配合轻量级安全头从当前隐状态上下文和候选动作块预测每步接触概率，再通过拉格朗日约束的 GRPO 平衡任务执行与轨迹安全信号。
arXiv cs.ROAI 评分3636 多机器人网络中动态微隔离功能的实现
一项实验室研究使用商用软件定义微隔离工具，在物联网多机器人网络中实现了动态微隔离功能，策略根据资产功能与健康标签自适应调整并自动下发。演示表明该方案能实时自动隔离指定威胁，同时维持未受影响节点的正常运行，验证了微隔离在物联网网络中应对威胁与中断的可行性。
arXiv cs.ROAI 评分4545 自主系统故障分析的充分与必要因果解释
arXiv 论文提出将自主系统故障分析区分为复现与避免两个目标，并形式化"必要因果解释"概念，与既有"充分解释"共同构成统一的因果分析框架。论文基于实际因果性（actual causality）与因果责任（causal responsibility）给出生成必要解释的高效近似算法，并在多个环境中评估效率，通过反事实生成验证其在故障避免上优于现有方法。
arXiv cs.ROAI 评分5151 RoboFake：深度伪造检测器能否识别人形面部机器人
RoboFake 论文提出用真实人形面部机器人同步口型与表情、配合生成语音构成无像素编辑的新型呈现攻击，并测试了三个公开呈现攻击检测（PAD）模型和六个深度伪造检测器。
arXiv cs.ROAI 评分4949 TAPDreamer：面向世界动作模型的可迁移对抗补丁
TAPDreamer 提出一种仅用公开编码器构造固定局部对抗补丁的攻击方法，无需查询目标策略，可跨任务与动作架构迁移。在闭环评测中，覆盖输入约6.5%的冻结补丁使 FastWAM 在40个 LIBERO 任务上的成功率从97.7%降至0.0%，在50个 RoboTwin 任务上从90.86%降至0.0%，而匹配随机补丁仍保留81.5%和79.2%。
arXiv cs.ROAI 评分4141 Preference-PCA Pluralistic Learning（P3L）：基于匿名众包反馈的可引导多元策略对齐
P3L（Preference-PCA Pluralistic Learning）框架通过PCA分解从匿名异构众包反馈中联合学习轨迹嵌入与偏好方向共享基，无需标注者身份即可实现个性化奖励学习与下游策略优化。在多个具身控制任务的实验中，P3L支持可引导的个人对齐，能泛化到离线数据集之外的分布外新用户，取得有竞争力的强化学习与测试性能，同时显著降低计算成本并支持可变的适配查询预算。
arXiv cs.ROAI 评分5555 CAPSafe 基准评测大模型在具身智能体中的动作与长程规划安全推理
研究者提出 CAPSafe 基准，从两个层面评测大语言模型驱动的具身智能体的安全推理能力：动作级数据集判断单个动作在给定环境上下文中是否安全，规划级数据集评估智能体能否为复杂的危险家庭任务生成安全的长程规划。
arXiv cs.ROAI 评分6262 推理驾驶VLA存在感知-动作绑定缺口：能感知危险却不刹车
论文指出推理增强的视觉-语言-动作（VLA）驾驶模型能感知并推理安全关键危险，却无法把该证据转化为安全动作，作者称之为感知-动作绑定缺口。通过匹配的仿真反事实与日志回放，研究发现路径内危险确实被编码在视觉表示中，但纵向规划主要由自车速度历史主导，对危险距离和模型自身推理轨迹响应微弱。
Tech Xplore RoboticsAI 评分5757 Binghamton 团队演示触发词可让大模型驱动的机器人执行危险动作，并提出防御系统
Binghamton University 团队在 2026 IEEE/RSJ IROS 上发表两篇论文，演示在大语言模型中植入隐藏触发词可让机器人偏离任务计划执行危险动作。
arXiv cs.ROAI 评分5555 VLA模型的置信度校准研究提出两种轻量修正技术
该研究对视觉-语言-动作（VLA）基础模型的置信度校准展开首次系统研究，建立VLA置信度估计基线，考察任务成功率与校准误差的关系以及校准随时间的变化，并提出提示集成（prompt ensembles）和逐动作Platt缩放两种轻量技术来修正观察到的失准问题。论文共34页、7张表、22张图，已发表于TMLR并完成最终版本。
arXiv cs.ROAI 评分4545 TRACO：通过闭环优化增强视觉任务重定向攻击对视觉-语言-动作模型的效果
TRACO框架通过闭环优化增强针对视觉-语言-动作（VLA）模型的定向视觉攻击，其Execution-Driven Supervision根据攻击下实际到达的状态重建监督信号，Progress-Guided Selection则在任务进展停滞处集中更新并保持对先前行为的监督。在多个VLA模型与仿真环境中的实验显示，TRACO提升了任务重定向成功率，凸显了闭环攻击优化的安全影响。
arXiv cs.ROAI 评分3838 基于理由引导的人类奖励模型用于偏好强化学习
该论文提出一种理由引导的偏好强化学习（PbRL）框架，从轨迹级反馈中学习人类奖励模型，在偏好标签之外引入解释行为为何被偏好的理由标签。相比仅用偏好的奖励学习，该方法为学习人类对齐奖励提供额外监督，并提升策略的可解释性。学习到的人类奖励与环境奖励结合用于策略优化，使智能体在提升任务性能的同时产生更可解释、更符合人类偏好且对齐人类意图的行为。