跳到正文
arXiv · cs.AI · Xin-Rui Ma, Shi-Zhi Chen, Hai-Yan Jiang, De-Cheng Feng, Michael Beer · 11 小时前模型评分48

变量名提供先验:语义接地让大语言模型实现数据高效的数值预测

Variable names provide priors: semantic grounding enables data-efficient numerical prediction by large language models

导读

研究发现,变量名与其描述数值之间的语义匹配(语义接地)能让五个未经任务专项训练的大语言模型在九个科学领域的 20 个数据集上追平或超过七个监督机器学习模型,示例稀缺时优势尤其明显。推理轨迹显示,变量名使模型能调用预训练阶段获得的领域知识;基于物理公式的受控实验表明,模型会以类似贝叶斯更新的方式,把领域知识当作先验、把上下文示例当作似然来整合。

生成六维分析
分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

应用领域:科学研究

事件类型:研究发布

证据摘录

  • “Here we show that semantic grounding, the match between variable names and the values they describe, allows five LLMs without task-specific training to match or outperform seven supervised machine learning (ML) models across 20 datasets from nine scientific domains, particularly when examples are scarce.”

来源:arXiv · cs.AI · arxiv.org