AMMA提出多芯粒内存中心注意力架构

研究团队提出多芯粒、内存中心架构 AMMA，用 HBM-PNM 立方体替代 GPU 计算裸片，将可用内存带宽提升约一倍，面向低延迟百万级上下文注意力服务，重点加速受内存带宽限制的解码阶段计算。 论文称，评估显示 AMMA 相比 NVIDIA H100 的注意力延迟低 15.5 倍、能耗低 6.9 倍；该结果来自作者评估。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。