arXiv · cs.AI · Michael Granitzer, Saber Zerhoudi, Mohammad Al-Maamari, Hai Dang Dang, Kanishka Ghosh Dastidar · 8 小时前模型评分46
研究：把冻结的“磁带模块”当作小语言模型的层，在前向传播中完成工具计算
A Tool in the Forward Pass: Frozen Tape Modules as Layers of a Small Language Model
导读
研究者提出一种在语言模型前向传播内运行的小型神经模块：学习到的写入器把隐藏状态转成符号磁带，经单独训练后冻结的模块把磁带归约为结果，再由读取器送回模型。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “We study an alternative: a small neural module that runs inside a language model's forward pass.”
来源：arXiv · cs.AI · arxiv.org