跳到正文
arXiv · cs.AI · Jin Zhu, Junxian Zhu · 6 小时前模型评分32

MambaPFN:基于先验数据拟合网络的非线性变量选择方法

Amortized Nonlinear Variable Selection with Prior-Data Fitted Networks

导读

研究者提出 MambaPFN,一种基于 Transformer 的模型无关非线性变量选择方法,预训练后无需参数更新即可用于新数据集。它通过生成预训练数据、针对每个变量后验纳入概率的目标函数和改造后的 Transformer 架构实现,并呈现规模定律。在 Facebook 评论数据集上,它选出的变量最少,预测性能比最佳基线提升约 20%。

分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “We propose MambaPFN, short for Model-Agnostic Markov BlAnket selection with Prior-data Fitted Networks, which is built upon the Transformer, a building block of many popular large language models.”

来源:arXiv · cs.AI · arxiv.org