跳到正文
arXiv · cs.AI · Shiwen Qin, Gabriela Kadlecov\'a, Martin Pil\'at, Shay B. Cohen, Roman Neruda, Elliot J. Crowley, Jovita Lukasik, Linus Ericsson · 8 小时前模型评分32

可迁移代理模型如何加速高表达力神经架构搜索

Transferrable Surrogates in Expressive Neural Architecture Search Spaces

导读

研究显示,在基于上下文无关文法的高表达力神经架构搜索(NAS,Neural Architecture Search)空间中,用零成本代理指标与神经图特征(GRAF)训练或微调现成大语言模型得到的代理模型,对架构性能在数据集内和跨数据集都有较强预测能力。这些代理模型可在新数据集上过滤掉差架构,显著加快搜索并取得更好的最终性能,还能直接作为搜索目标带来大幅加速。

生成六维分析
分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “We investigate surrogate model training for improving search in highly expressive NAS search spaces based on context-free grammars.”

来源:arXiv · cs.AI · arxiv.org