跳到正文
热点事件持续更新

MoBiQuant:按token敏感度调整LLM量化精度

1 篇报道1 个报道来源7 小时前更新

先了解这件事

AI 综述

Dongwei Wang等研究者提出任意精度混合比特量化框架MoBiQuant,按token敏感度动态调整权重精度,并用token感知路由器缓解不同比特宽度之间的离群值迁移问题。 作者称,实验中MoBiQuant的性能匹配或超过前沿的单精度训练后量化(PTQ)方法,吞吐量最高提升1.34倍。该框架代码已开源,论文入选NeurIPS 2026。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. arXiv · cs.AI
    MoBiQuant:面向 token 自适应任意精度 大语言模型(LLM,Large Language Model) 的混合比特量化

    研究者提出任意精度混合比特量化框架 MoBiQuant,按 token 敏感度动态调整权重精度,并用 token 感知路由器缓解跨比特宽度的离群值迁移问题。实验显示其性能匹配或超过前沿单精度训练后量化(PTQ,Post-Training Quantization)方法,吞吐量最高提升 1.34 倍。代码已开源,论文入选 NeurIPS 2026。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。