LoL架构：推理时动态排列Transformer层

Abdellah Rahmani等作者发布论文，提出 Library of Layers（LoL）架构：语言模型不再固定层序，而是在推理时按当前问题动态排列 Transformer 层。作者称，该架构只有一个超参数，即全局 Transformer 模块库的大小，并可在参数复用与稀疏之间切换，从而统一覆盖稠密、深度循环和混合专家三类架构的效率取舍。 报道未给出该架构的实际性能或实验结果，动态排列的效果尚待验证。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。