跳到正文
热点事件持续更新

LLMCodec:用视频编解码器压缩大模型权重

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

Rui Wang等作者发布论文,提出LLMCodec:把大语言模型的权重交给VVC/H.266视频编解码器压缩,并结合仿射量化,压缩过程无需微调或校准数据。 作者报告,在LLaMA-3-8B的2-bit精度下,该方法的困惑度比现有方法低1.5倍以上,下游任务准确率提升21%。论文还比较了不同视频编解码器和编码配置对压缩性能的影响。

AI 根据报道生成 · 4 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. arXiv · cs.AI
    LLMCodec:用视频编解码器压缩大语言模型权重

    LLMCodec 提出用视频编解码器压缩大语言模型权重,将仿射量化与 VVC/H.266 视频编解码器结合,无需微调或校准数据。在 LLaMA-3-8B 的 2-bit 精度下,该方法相比现有方法将困惑度降低超过 1.5 倍,下游任务准确率提升 21%。研究还比较了多种视频编解码器与编码配置对压缩性能的影响。

本事件热度走势

可比范围当前
9
可比范围峰值
1011月4日 14:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。