MoBiQuant:按token敏感度调整LLM量化精度
热点事件持续更新
MoBiQuant:按token敏感度调整LLM量化精度
1 篇报道1 个报道来源7 小时前更新
先了解这件事
AI 综述
Dongwei Wang等研究者提出任意精度混合比特量化框架MoBiQuant,按token敏感度动态调整权重精度,并用token感知路由器缓解不同比特宽度之间的离群值迁移问题。 作者称,实验中MoBiQuant的性能匹配或超过前沿的单精度训练后量化(PTQ)方法,吞吐量最高提升1.34倍。该框架代码已开源,论文入选NeurIPS 2026。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
11月3日
- arXiv · cs.AIMoBiQuant:面向 token 自适应任意精度 大语言模型(LLM,Large Language Model) 的混合比特量化
研究者提出任意精度混合比特量化框架 MoBiQuant,按 token 敏感度动态调整权重精度,并用 token 感知路由器缓解跨比特宽度的离群值迁移问题。实验显示其性能匹配或超过前沿单精度训练后量化(PTQ,Post-Training Quantization)方法,吞吐量最高提升 1.34 倍。代码已开源,论文入选 NeurIPS 2026。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。