arXiv · cs.AI · Phillip Long, Zachary Novack, Chris Donahue · 7 小时前模型评分40
Trilobyte:面向全保真音频无损压缩的语言模型基准测试
Benchmarking Language Modeling for Lossless Compression of Full-Fidelity Audio
导读
研究团队在音乐、语音、生物声学等全保真音频上系统评测了自回归语言模型的无损压缩能力,并提出字节级分词方案 Trilobyte,把词表规模从随位深指数增长降为常数,首次实现可运行的 24-bit 语言模型无损压缩。语言模型在 8-bit 和 16-bit 上稳定优于 FLAC 并达到当前最佳压缩效果,但位深超过 8-bit 后压缩收益明显收窄。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “We propose Trilobyte, a byte-level tokenization schema for full resolution audio, improving vocabulary scaling from $O(2^{b})$ to $O(1)$ and enabling the first tractable 24-bit LM-based lossless compression.”
来源:arXiv · cs.AI · arxiv.org