张量神经网络延迟引导设计空间探索框架发布

Jinsong Zhang 等提出一种面向固定秩张量化神经网络（TNN）的部署约束、延迟引导设计空间探索框架，在固定处理单元（PE）预算下联合评估收缩路径、三种 PE 阵列划分与数据流组合。 在 ResNet-18 和 ViT-Ti/4 上，25%–50% 的层选择了非最小 MAC（乘加运算量）路径，最优数据流随层和模型而变；在代表性 ViT 层上，按延迟选出的候选比最小 MAC 候选降低模拟延迟 23.5%。 在支持推理与训练的 Xilinx VU9P FPGA 上，完整 TT+INT8 系统相对相同 PE 预算的稠密实现取得 3.28–4.00 倍推理和 3.42–3.85 倍训练加速。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。