跳到正文
热点事件持续更新

ActionFlow:边缘VLA推理框架提速2.55倍

1 篇报道1 个报道来源10 小时前更新

先了解这件事

AI 综述

Yuntao Dai 等作者在 arXiv 发布 ActionFlow,一个面向资源受限边缘平台的系统级推理框架,用于加速视觉语言动作(VLA)模型。该框架把推理拆成微请求宏流水线,让访存密集的解码阶段与计算密集的预填充阶段跨时间步批量执行。 论文称,实验显示在 OpenVLA-7B 上无需重训练即可将 FPS 提升 2.55 倍,并使边缘硬件具备实时动态操作能力。

AI 根据报道生成 · 4 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. arXiv · cs.AI
    ActionFlow:面向边缘端视觉语言模型的流水线动作加速框架

    ActionFlow 是一个面向资源受限边缘平台的系统级推理框架,通过跨请求流水线调度把 VLA 模型推理拆成微请求宏流水线,将访存密集的解码阶段与计算密集的预填充阶段跨时间步批量执行。在 OpenVLA-7B 上无需重训练即实现 2.55 倍 FPS 提升,使边缘硬件具备实时动态操作能力。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。