边缘VLM连续感知能耗：解码成本随规模上升

Yiting Duan 等发布研究，在 Jetson AGX Thor 和 Orin 两类边缘设备上，对三类架构的 9 个视觉语言模型（VLM）采集 4,508 条能耗记录，在连续感知负载下重新审视边缘 VLM 的能耗构成。 研究结论是：每输出一个 token 的解码成本随模型规模单调上升；视觉预填充成本主要由视觉编码器架构的效率决定，与模型规模无关。 该研究指出，此前关于边缘 VLM 视觉预填充能耗的结论，多在单次推理负载下得出；这次则是在连续感知场景下重新检验这些结论。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。