跳到正文
热点事件历史事件

VLA推理优化跨GPU测量研究

1 篇报道1 个报道来源5 天前更新

先了解这件事

AI 综述

Muhammad Danish Waseem 与 Ahmed Ali-Eldin Hassan 发布了一项测量研究,系统考察七类 VLA 推理优化方法(从 CUDA graphs、编译到 token 剪枝和量化)在 7 个先进 VLA 模型、4 类 GPU(从数据中心 H100 到嵌入式 Jetson Thor)上的表现。 研究分析了 CPU 启动开销、内存带宽与内核效率如何共同决定优化收益,以及应用一种方法如何改变另一种方法的效果。作者据此提出在延迟预算下叠加优化的 VLA-Triage 指南。

AI 根据报道生成 · 5 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月5日
  1. arXiv cs.RO
    VLA 推理时间花在哪:跨 GPU 的瓶颈与优化交互分析

    该论文对七类 VLA 推理优化方法做了系统测量,覆盖 7 个先进 VLA 模型和从数据中心 H100 到嵌入式 Jetson Thor 的四类 GPU。研究分析了 CPU 启动开销、内存带宽与内核效率如何共同决定优化收益,以及一种方法如何改变另一种方法的效果,并据此提出在延迟预算下叠加优化的 VLA-Triage 指南。

本事件热度走势

可比范围当前
3
可比范围峰值
1011月5日 14:00
近 24 小时变化
-49%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。