跳到正文
今天11月2日周一13 条
  1. arXiv · cs.AI48

    BeyondArena:表格基础模型在真实场景下到底有多通用?

    研究团队推出首个统一表格数据基准 BeyondArena,覆盖 IID、时序和分组任务,并配套数据集整理框架 DataFoundry。在 11 个模型、142 个数据集上的测试显示,开源表格基础模型在 10 万行以内数据上具备竞争力,但分组或大规模数据仍由传统树模型和深度学习模型主导。

  2. arXiv · cs.AI49

    ROSTrans:面向 ROS1 到 ROS2 迁移的大语言模型基准测试

    ROSTrans 基准用 108 个任务评测大语言模型把 ROS1 代码迁移到 ROS2 的能力,任务来自 70 多个开源仓库,按接口、行为和系统三级正确性划分。六个前沿模型 pass@1 均低于 10.9%,56.5% 的样本编译成功却在运行时失败。执行引导修复三轮后,Claude Opus 4.6 和 GPT-5.5 的任务成功率分别升至 49.1% 和 47.2%。

  3. arXiv · cs.AI33

    MarketImage 诊断框架:交易价格能否反映视觉偏好

    研究团队提出 MarketImage 诊断框架,用 266 组六图对比集和保留平局的价格-人类排序协议,检验交易价格何时反映视觉偏好。结果显示仅 24.2% 图像对有非平局价格方向,其中 34.7% 与人类多数一致,HPSv2 在该区域以 66.4% 可恢复准确率领先。作者认为交易价格只能作为不确定的代理信号,而非真实偏好标准。

  4. arXiv · cs.AI37

    SERIAL-7:面向七种表示的可执行验证基准,衡量机器可验证输出

    SERIAL-7 是一个韩英双语基准,用可执行验证框架检验大语言模型在七种表示上的机器可验证生成,包含 177 个经校验的规范产物和 43 条原子表示约束。它把任务拆成语义推导、受限产物生成和跨表示保持三步,并逐级加严检查格式、结构与任务语义。在十个模型上,REALIZE-L3 的 HSR 从 42.0% 到 93.9%,完全合规检查还暴露出最终答案正确、表示合法之外的产物级失败。

  5. arXiv · cs.AI38

    ImplicitHop:评估大语言模型跨上下文与记忆的知识整合能力

    研究者提出 ImplicitHop 基准,包含形式化图基准和基于真实知识图谱的知识组合基准,用于评估大语言模型(LLM,Large Language Model)在不同推理深度下的演绎推理与知识整合能力。测试显示,无论知识来自预训练权重还是上下文,准确率都随组合长度增加而急剧下降,但上下文提供的信息明显优于权重中编码的信息。该结果量化了当前模型在提示词控制智能体行为和持续学习方面的根本局限。

  6. arXiv · cs.AI42

    SafeWebWorld 基准:网页世界模型的安全充分性评估

    研究团队提出 SafeWebWorld 基准,从五个网页安全领域评估世界模型预测是否保留帮助系统判断何时执行、询问或阻止的信息。对十个冻结开源模型的 3000 条预测做人工评估显示,86.1% 语义上合理,但部分模型授权行为高度不对称:误判为可安全执行的比例低,却对需澄清的询问情形召回差,且强烈倾向阻止。

10月30日周五