跳到正文
arXiv · cs.AI · Anna Gogleva, Thomas Charman, Martin Balla, Karl Gemayel · 10 小时前模型评分54

LUCA:用于评测实验推理的合成世界

LUCA: A Synthetic World for Experimental Reasoning

导读

作者提出 LUCA,一个可配置的合成世界,在完全已知的真实答案下评测智能体的实验推理过程。智能体在有限预算内学习未知调控系统,再预测未见干预、诊断隐藏故障并尝试修复,从而把实验选择、预测、诊断和干预分开评估。在七个前沿大语言模型和三个基线中,这些能力明显分离:诊断能力在不同模型间相差 7 倍,预测只相差 1.4 倍;模型常能修复故障系统却诊断错故障,且探索更多并不稳定带来更好表现。

生成六维分析
分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

应用领域:科学研究

事件类型:研究发布

证据摘录

  • “We introduce LUCA, a configurable synthetic world for evaluating this process under fully known ground truth.”

来源:arXiv · cs.AI · arxiv.org