LLMCodec:用视频编解码器压缩大模型权重
热点事件持续更新
LLMCodec:用视频编解码器压缩大模型权重
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Rui Wang等作者发布论文,提出LLMCodec:把大语言模型的权重交给VVC/H.266视频编解码器压缩,并结合仿射量化,压缩过程无需微调或校准数据。 作者报告,在LLaMA-3-8B的2-bit精度下,该方法的困惑度比现有方法低1.5倍以上,下游任务准确率提升21%。论文还比较了不同视频编解码器和编码配置对压缩性能的影响。
AI 根据报道生成 · 4 小时前更新
最新进展11月4日 13:00
LLMCodec:用视频编解码器压缩大语言模型权重报道时间线
沿着报道,了解事件的不同侧面。
11月4日
- arXiv · cs.AILLMCodec:用视频编解码器压缩大语言模型权重
LLMCodec 提出用视频编解码器压缩大语言模型权重,将仿射量化与 VVC/H.266 视频编解码器结合,无需微调或校准数据。在 LLaMA-3-8B 的 2-bit 精度下,该方法相比现有方法将困惑度降低超过 1.5 倍,下游任务准确率提升 21%。研究还比较了多种视频编解码器与编码配置对压缩性能的影响。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1011月4日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:0017:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。