arXiv cs.RO· Muhammad Danish Waseem, Ahmed Ali-Eldin Hassan·· 5 天前AI 评分63
VLA 推理时间花在哪：跨 GPU 的瓶颈与优化交互分析
Where Is VLA Inference Time Spent? Bottlenecks and Optimization Interactions Across GPUs
AI 导读
该论文对七类 VLA 推理优化方法做了系统测量，覆盖 7 个先进 VLA 模型和从数据中心 H100 到嵌入式 Jetson Thor 的四类 GPU。研究分析了 CPU 启动开销、内存带宽与内核效率如何共同决定优化收益，以及一种方法如何改变另一种方法的效果，并据此提出在延迟预算下叠加优化的 VLA-Triage 指南。
来源：arXiv cs.RO · arxiv.org