跳到正文
arXiv · cs.AI · Alexander Detkov, Dashiel Karish, Matthew Oleynikov, Matt Thomson · 9 小时前模型评分38

ImplicitHop:评估大语言模型跨上下文与记忆的知识整合能力

ImplicitHop: Evaluating knowledge integration across context and memory

导读

研究者提出 ImplicitHop 基准,包含形式化图基准和基于真实知识图谱的知识组合基准,用于评估大语言模型(LLM,Large Language Model)在不同推理深度下的演绎推理与知识整合能力。测试显示,无论知识来自预训练权重还是上下文,准确率都随组合长度增加而急剧下降,但上下文提供的信息明显优于权重中编码的信息。该结果量化了当前模型在提示词控制智能体行为和持续学习方面的根本局限。

生成六维分析
分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “To explore information integration in LLMs, we introduce two complementary natural language benchmarks for large-scale evaluation of deductive reasoning as a function of inference depth.”

来源:arXiv · cs.AI · arxiv.org