Binghamton团队发表LLM机器人后门攻击与防御研究

Binghamton University 团队在2026 IEEE/RSJ IROS 上发表两篇论文，演示在大语言模型中植入隐藏触发词（MuTRAP 多触发词木马攻击）可让 LLM 驱动的机器人偏离任务计划、执行危险动作，并提出防御系统 PROTEA。团队用一台 Segway 移动机器人模拟“切割”塑料水果模型测试该攻击；研究者称攻击者只需了解 LLM 应用及其模型架构即可实施。 Shiqi Zhang 称，其防御系统在检测有害与良性计划方面“相当准确”。研究者强调，设计攻击场景的目标不是在真实场景中利用它们，而是为未来防御和安全的 AI 生态做准备。

AI 根据报道生成 · 50 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。