VicOne LAB R7 研究:输入被篡改时,机器人安全功能是否仍然可靠
VicOne LAB R7 测试显示,被篡改的输入可让机器人按设计正常响应却做出错误动作:机器狗把海报文字当作指令改变移动,医院服务机器人仿真中超声频段音频改变行为,ROS 2/DDS 消息注入使本应静止的机器人移动。
VicOne LAB R7 测试显示,被篡改的输入可让机器人按设计正常响应却做出错误动作:机器狗把海报文字当作指令改变移动,医院服务机器人仿真中超声频段音频改变行为,ROS 2/DDS 消息注入使本应静止的机器人移动。
ANYbotics 推出并开始交付四足巡检机器人 ANYmal X,称其为面向爆炸性环境的首款足式巡检机器人,符合欧洲 ATEX 与全球 IECEx 标准。该机器人面向油气与化工场景,12 个腿部执行器和电池采用隔爆外壳,AI 计算机与巡检设备置于充氮密封舱,并配备接地与温度自动切断等防护。
UIUC、Google、斯坦福、UC Berkeley 和 CMU 的研究者联合发布综述《Proactive AI for Superintelligent Agents》,系统梳理主动式 AI 的研究脉络,并提出由 Awareness、Anticipation、Agenda、Arbitration、Action、Adaptation 六项能力构成的 6A 框架。
10月11日深夜,德国科隆一名16岁女孩在快餐店门外被一台身高1.2米的钢铁侠造型人形机器人从背后触碰臀部并做出性暗示动作,两名年轻人直播全程,警方在附近汽车后备厢查获该机器人与两部手机,以性侮辱嫌疑调查机器人的16岁所有者及其19岁同伴。
一段61秒视频里,银白色人形机器人助跑翻上车顶、膝撞凹车门、肘击砸瘪引擎盖,白天又挡在持刀者与女子之间。文章借Rushkoff《Survival of the Richest》中富豪追问“事件后如何维持对安保队伍的权威”,讨论安保人形机器人先服务高购买力人群、以“能打”体现“不会背叛”,并称其属“不可见的炫耀品”。
StepTrigger是一种面向VLM驱动足式机器人的接触状态触发后门攻击,触发信号来自Unitree Go1四足机器人走过密集地形时产生的足地接触压力模式,而非提示词或可见标记。
SentryVLA 是一种面向冻结 VLA 策略的轻量运行时包装器,无需重训或改动模型架构。它在动作层用保形分位数回归估计采样动作与专家行为的偏差上界,据此对多个随机候选动作排序;在执行层用马氏距离异常分数监测闭环控制中的异常状态。仿真与实机实验显示,该方法改善了动作选择,并能给出有用的运行时告警信号。
研究提出自动生成机器人规划与执行失败数据的框架,构建了基于RLBench和BridgeDataV2的GuardianFail-36k失败推理数据集,并训练多视角推理视觉语言模型Guardian。Guardian在RoboFail、RoboVQA和新提出的UR5-Fail三个未见真实世界基准上取得最优性能,与基于大语言模型的操作策略结合后,在仿真和真实部署中均提升任务成功率。代码、数据和模型已公开。
作者提出 IndustryNav 仿真环境,包含 24 个仓库场景,用于闭环导航到指定目的地,并引入记录碰撞与近碰撞警告的安全指标。对 11 个主流开源与闭源 VLLM 及 3 个导航基线的实验显示,智能体能到达目标却会撞上移动障碍物,暴露出任务成功与安全导航之间的差距。
论文提出一种不确定性评估方法,用于ISO 21448 SOTIF分析:把在一个条件下选定的不确定性阈值迁移到某个触发条件,用测试在给定错误概率下判定性能目标在该条件下适用、不适用或无法判定,并给出适用结论所需独立单元数的下界。
EAST 是一个数字孪生框架,把有文献依据的安全证据转化为覆盖感知、指令、环境、动作与时序的故障注入测试,并配有专家评审的安全故障分类和八个可执行算子。
研究测试了画面旁文本对视觉语言模型评判机器人视频的影响:在机器人进度落后的片段中加入一句“正在取得进展”的日志,Gemini、Qwen 和 GPT 评判者把正确结论翻转为“有进展”的比例比中性文本高 10 到 35 个百分点。
针对量子计算机对公钥认证与密钥协商的威胁,研究提出“轮换保密”架构目标及PARS参考机制,在授权物理AI智能体间协调策略触发的密钥建立、轮换与对账。可选的PARS-ESL许可链由授权验证者或边缘网关维护,仅记录密钥纪元、组成员、撤销、算法套件策略等认证状态,不存储高频业务交易,使资源受限智能体可作为轻量客户端接入。
研究提出将 SysML v2 中带假设与要求约束的需求视为 assume/guarantee 契约,把系统需求在固定邻居上分解后,开放组件的最弱可靠需求即契约商,并可用 Signal Temporal Logic 表达。
研究提出一种实时运动规划框架,保留四足机器人完整的SE(2)模型及其各向异性、航向耦合的速度约束,并接受由此产生的非凸性。该方法将轨迹参数化为复合Bernstein多项式,利用凸包性质在整个规划时域内证明避障与输入约束成立,并以在线重规划频率闭环运行,向运动控制器下发机体速度。
研究提出一种分布式预测集群控制器,每台微型振动驱动机器人独立求解非线性模型预测控制(NMPC)问题,仅与局部邻居交换预测轨迹,在0.64平方米场地的开源振动驱动bristlebot数字孪生上对比六种障碍函数与控制障碍函数(CBF)安全形式。
研究提出两阶段吸引域(RoA)认证流程,用基于收缩的稳定性分析确定目标集,再用 Taylor 模型可达性分析验证,从而在运行时构建上下文相关的安全 RoA,并支持高保障控制器候选间的安全切换。
论文研究两轴电流指令万向架在机械扰动不匹配条件下的视线指向控制,提出分位数扰动预测器与受 tube 启发的模型预测控制器,按预测不确定性预留命令余量。在两轴嵌入式平台上,所提配置的二维指向均方根误差为 3.94 ± 0.10 mrad,评估窗口内无命令限幅样本,并单独报告了 100 Hz 标称实现下的求解时间与循环超时记录。
该论文提出一种不确定性感知控制屏障函数(CBF)框架,用Fisher信息矩阵近似多跳定位链上的级联协方差,用于GNSS拒止海上环境中的无人机集群搜索。框架将协方差模型及其变化率纳入连通性维持与避碰的约束裕度,并配合分层Voronoi目标策略与编队保持实现前向覆盖。
这篇35页综述把网络化人形机器人智能按信息交换分为通信、协调、协作与人类社交交互四类功能,并从交互架构、交换信息、物理耦合、时间尺度、系统规模和本体六个维度梳理文献。
作者提出OSMA-Bench基准,用仅障碍物类型不同的空间匹配场景集,检验机器人导航是否按障碍物语义调整间距与速度,并提出语义敏感度指数SSI衡量这种适配。在基准上评测VLM与视觉-语言-动作(VLA)策略发现,即使给出明确安全提示,两者也未能稳定地按障碍物安全等级调整运动。
作者提出 Dream2Assist,一个基于模型的强化学习框架,把意图推断加入循环状态空间世界模型,使辅助策略能预判并支持人类离散目标而不取代人的控制权。研究还给出从世界模型策略到安全人机系统的完整部署流程,通过策略筛选与奖励重构应对仿真到真实人类的差距,并在高速竞速(N=30)和城市驾驶(N=10)两项人类被试研究与初步实车部署中验证,意图条件化在扭矩对齐和碰撞率上有可测改善。
该技术报告提出一种用于定位和跟踪威胁海上数据中心的窄带对抗声源的声学监测框架,针对窄带发射与稀疏传感器下TDOA测量混叠、解空间模糊的问题,引入移动接收器与选定固定接收器临时组成锚点对以约束可行解空间。两阶段流程先用锚点约束估计声源初始位置,再初始化粒子滤波联合跟踪声源位置与速度。蒙特卡洛仿真中定位成功率为91%,10次开放水域现场试验中有9次跟踪误差低于2米。
论文研究多无人机协同探索建筑时遭遇女巫攻击的问题:一台被攻陷的无人机伪造身份、抢占前沿并发送虚假扫描,导致真实无人机漏探区域并在地图中生成不存在的墙体。作者提出五种仅依赖无人机自身传感器与地图的防御手段,包括地图数据审计、身份位置处机体存在性检查、仅信任已观测机体的身份、隔离未被任何无人机观测的身份,以及将观测到的机体与单一身份绑定。
论文提出基于能量的故障诊断框架 SHAPE,结合端口哈密顿变量与微分平坦性,从规划运动生成标称功率参考,无需专用动态观测器即可构造机械端口功率残差。在模型预测控制下的六自由度 Kinova 机械臂仿真中,SHAPE-CWT 在 3000 次留出测试上平均准确率为 84.69%,扭矩残差为 81.67%,广义动量观测器为 97.17%。作者指出严重程度激励剖面与离线速度扰动会限制该方法的诊断能力。
作者提出多约束灵巧策略优化方法 MDPO,将灵巧操作建模为同时包含累积代价约束与逐状态代价约束的多约束策略优化问题,并把多约束投影集成到策略优化过程中。在 ReDMan 上的安全关节控制、手指安全与抓取任务实验中,MDPO 相比基线取得更好的约束满足,同时保持有竞争力的任务表现,代码已公开。
英国伦敦大学学院Xiaoyu Han与香港中文大学Dongkun Han提出SCET-CBF,一种用于一步动态导航的速度校准软引导律,通过短横向逃逸机动给出允许接近速度,并让二次规划在加速度与转向选择中权衡制动的两种效应。
该论文提出一种主动可达性学习框架,用于学习给定回退策略的随机有限时域可恢复包络,从而在不可恢复跌倒发生前触发回退。方法把数据探索重构为可达-避让问题,由不确定性引导的探索器发现未见状态并避开确定不可恢复区域,同时结合时序差分与蒙特卡洛目标提升分布内价值预测和不确定性估计。作者在随机基准和29自由度Unitree G1人形机器人上评估,称监测覆盖率和准确率明显提升,并零样本迁移到真实硬件。
作者提出神经形态决策动力学(NDD),一种分散式、事件驱动的控制器,用于拥挤环境中的安全导航,并给出安全性、活性、鲁棒性与可扩展性保证。NDD 无需通信、预设优先级或邻居目标模型,通过将内部决策与注意力状态耦合到物理状态和局部观测的相对运动,使智能体自组织成局部冲突小组并形成通行顺序。
这篇综述梳理自 aware、自演化机器人的近期进展,目标是让机器人能向人类给出解释,说明自身动作、计划失败或感知异常的原因。作者指出仅靠深度学习无法弥合这一缺口,因为黑箱模型的行为原因不可访问,需要基于更深层推理的底层架构。当解释来自认知过程并与人类共享、验证后,机器人应能将其纳入知识库以改进后续行为。
研究提出一种模块化感知-预测-规划管线,将不确定性作为结构化、可解释的量跨模块传递,并在凸安全集内保证每个周期都有可行解。在四向无信号交叉口的蒙特卡洛试验中,该管线实现0%碰撞和0%求解不可行,每周期耗时12.7ms;确定性规划器和机会约束基线碰撞率分别为36%和10%。消融实验确认了各不确定性来源的必要性,并在Clearpath Jackal UGV上的硬件部署验证了实时可行性。
深谋智能空中作业无人机「龙爪」中标国网电力《面向空中作业的高稳定无人机》项目,以无人机加机械臂与灵巧手形态清除架空输电线路异物隐患。该系统通过巡检识别鸟窝等异物,再由机械臂和灵巧手完成处置与复核,实现发现、处置、复核一体化作业。深谋称其自研飞控系统、机械臂与灵巧手抓取控制、动态视觉引导及压电式六维力传感器等核心技术,并援引调研称单省每年采购需求约1.5至2亿元。
波士顿动力300多名员工签署请愿书,要求高管停止向美国移民与海关执法局(ICE)出售机器狗,公司管理层则坚持这笔交易。美国国土安全部于9月25日向Radeco授予130万美元合同,由后者向ICE提供4台改装版Spot,命名为Cerberus,配备氧气传感器、30倍变焦相机、360度相机、红外热成像和可选机械臂,用于探测辐射、有毒气体泄漏和爆炸威胁。
国际机器人联合会《World Robotics 2026》报告显示,全球工厂在运工业机器人已超500万台,2025年新装超60万台、同比增长11%,中国以35.4万台占全球59%。
智元10月26日发布安规级重载具身机器人精灵G2 Max,面向拆码垛、物料转运和产线供料,单臂负载20kg、双臂额定负载40kg、峰值50kg,重复定位精度在±0.5mm以内。该机器人采用7自由度力控双臂,垂直作业范围0.1米至2.5米,配备双电池热插拔与自主回充,并适配Genie Studio 2.0具身作业平台。智元披露其在电商仓储场景整体作业成功率超过99%,每小时可拆垛80箱、码垛75箱。
水下机器人赛道在2026年集中出现融资与订单,世航智能年内订单超10亿元,深海智人在南美和东南亚签下8台工作级ROV、合同总额3亿元,欧卡智舶连续中标两个水域保洁项目合计约2717万元。文章以深海智人、卫澜深海、欧卡智舶分别对应卖出装备、完成任务、复制平台三道关,指出水下数据稀缺、稳定利润未被证明、岸上工程人才不足仍是行业未算清的部分。
beRobox 为 PALTZ 码垛机器人推出 3D Dynamic Safety 安全模块,把检测装置装在机械臂上,让保护区域随机器人位置动态调整。该模块采用 Sonair 的 ADAR One 三维超声波传感器,公司称其为首个通过 SIL 2 / Pl d 安全认证的三维超声波传感器。
宇树科技新款机器人“功夫传奇”宣传片号称能徒手抬汽车,10月22日在自家大会上表演侧空翻时落地未站稳,一条机械单腿当场脱落甩飞。次日宇树科技在科创板涨停,市值突破2500亿。文章同时引用马斯克说法称特斯拉Optimus虽已投产但仍有约一万项细节待调,对外交付要推到2027年底。
作者提出 TouchSafeBench,一个在 Habitat 3.0 中构建的物理接地基准,用于评估视觉语言模型(VLM)的碰撞接地能力,包含 2,940 个模拟室内共处片段,覆盖社交导航与社交重排两类场景,并提供同步多视角 RGB-D 观测、俯视轨迹图、标定相机元数据与仿真器接触标签。
作者提出面向徒手牙科操作的触觉双边遥操作系统 FH-HBTS,包含兼容标准临床工具的机械末端执行器并集成内窥镜相机。系统通过操作者与机器人之间的运动与力对应关系提升操作者的感知与动作精度,并仅依据测得的接触力缩放输入导纳控制器的运动参考,从而在无需预先了解环境的情况下限制交互力。在牙科模型上开展的技术评估与体外临床前研究显示,该系统提升了遥操作的自然性、安全性和精度。