arXiv · cs.AI · Anna Gogleva, Thomas Charman, Martin Balla, Karl Gemayel · 10 小时前模型评分54
LUCA:用于评测实验推理的合成世界
LUCA: A Synthetic World for Experimental Reasoning
导读
作者提出 LUCA,一个可配置的合成世界,在完全已知的真实答案下评测智能体的实验推理过程。智能体在有限预算内学习未知调控系统,再预测未见干预、诊断隐藏故障并尝试修复,从而把实验选择、预测、诊断和干预分开评估。在七个前沿大语言模型和三个基线中,这些能力明显分离:诊断能力在不同模型间相差 7 倍,预测只相差 1.4 倍;模型常能修复故障系统却诊断错故障,且探索更多并不稳定带来更好表现。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
应用领域:科学研究
事件类型:研究发布
证据摘录
- “We introduce LUCA, a configurable synthetic world for evaluating this process under fully known ground truth.”
来源:arXiv · cs.AI · arxiv.org