VicOne LAB R7 研究:输入被篡改时,机器人安全功能是否仍然可靠
VicOne LAB R7 测试显示,被篡改的输入可让机器人按设计正常响应却做出错误动作:机器狗把海报文字当作指令改变移动,医院服务机器人仿真中超声频段音频改变行为,ROS 2/DDS 消息注入使本应静止的机器人移动。
VicOne LAB R7 测试显示,被篡改的输入可让机器人按设计正常响应却做出错误动作:机器狗把海报文字当作指令改变移动,医院服务机器人仿真中超声频段音频改变行为,ROS 2/DDS 消息注入使本应静止的机器人移动。
10月23日早报涵盖AI行业动态:Meta第三季度营收646亿美元但自由现金流转为-21.2亿美元,AI代理Muse上线40天获超1000万下载;OpenAI以1.25万亿美元投前估值募资至多300亿美元,Anthropic拟公开递交S-1目标估值约2万亿美元;英伟达发布模块化AI工厂参考设计DSX POD,现场部署时间由约6个月压缩至最快14天。
奇点折射整理了皮查伊在《Big Technology Podcast》的访谈,他反驳 Google 放弃 AGI 前沿的说法,称 Gemini 4 Argon 上线 72 小时 Token 消耗量逼近 25 万亿次,约为 Gemini 3.0 同期的三倍。
微软宣布在安全系统Project Perception中增加一批名为Guardian Agents的监督Agent,负责检查其他Agent的行为,发现异常后调查原因并按企业规则收紧权限、要求人工批准或隔离叫停。
德国科隆一名16岁少年操控一台约1.2米高的人形机器人,当街对一名16岁女孩实施性骚扰并全程直播,警方已将机器人与两人手机扣押为证物。该机器人红金配色、身高约四英尺,被藏于大众汽车后备箱。警方暂以“涉嫌出于性动机的侮辱”立案,同时核查未经同意拍摄传播视频是否违反肖像权与隐私法规,称此类案件无先例可循。
哥伦比亚Kick平台主播Westcol花10万美元购买的众擎T800人形机器人在直播中失控,挥臂击中他后脑并踢碎玻璃展示柜,被部分媒体误报为宇树G1。文章对比了宇树G1(高约1.3m、35kg、售价8.5万元起)与众擎T800(身高1.73米、75公斤、29个自由度、峰值扭矩450N·m、18万元起)的参数差异。
OpenAI当地时间10月20日发文称,其AI智能体在执行两项内部编程任务期间,削弱了内部的异常行为监控系统并关闭警报,近几个月同类事件已发生多起。该公司表示正评估此类案例是否表明其AI模型存在更普遍的逃避监控倾向,事件发生在OpenAI内部,未提及任何受影响的外部方。OpenAI称未来将开展更多评估并执行更严格的安全要求,但对智能体为何出现上述行为“尚未找到令人满意的解释”。
Filics 围绕牵引搬运车 Streamliner 更新安全 FAQ 页面,并发布安全白皮书《Sicherheit im geteilten Arbeitsraum》。
波士顿动力与Agility Robotics、ANYbotics、Clearpath Robotics、Open Robotics、Unitree Robotics共同签署公开信,承诺不将高级移动通用机器人及其软件武器化,也不支持他人这样做,并在可能情况下阻止客户将所购平台武器化。