研究提出HiFloat4三种量化校准方法
热点事件持续更新
研究提出HiFloat4三种量化校准方法
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Jing Huang等作者发布论文，提出HiGPTQ、HiAutoRound和HiFlatQuant三种校准方法，用于HiFloat4（HiF4）这一采用三级缩放层级的分块浮点4-bit量化格式。 论文称，三种方法均比直接转换为HiF4提升推理精度，将HiF4与BF16的差距缩小至1%以内，并在多种模型和下游任务上优于NVFP4格式。
AI 根据报道生成 · 2 小时前更新
最新进展11月2日 13:00
基于 HiFloat4 格式的大模型量化校准方法研究报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv · cs.AI基于 HiFloat4 格式的大模型量化校准方法研究
研究提出 HiGPTQ、HiAutoRound 和 HiFlatQuant 三种校准方法，用于 HiFloat4（HiF4）这一采用三级缩放层级的分块浮点（BFP，Block Floating-Point）4-bit 量化格式。实验显示三种方法均比直接转换为 HiF4 提升推理精度，将 HiF4 与 BF16 的差距缩小至 1% 以内，并在多种模型和下游任务上优于 NVFP4 格式。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。