arXiv · cs.AI · Heeyong Eun (KPMG Korea) · 12 小时前模型评分39
研究:企业维护任务与 人工智能(AI,Artificial Intelligence) 编码基准的条件满足差异
Beyond Surface Metrics: Multi-Condition Requirements in Enterprise Maintenance and AI Coding Benchmarks
导读
一项研究用固定 18 项标准分类分析了 2,925 个 Apache Fineract 问题和 944 个来自 SWE-bench Pro、SWE-PolyBench Java、SWE-EVO 的任务,发现表面相似的任务在需满足的条件集合上差异显著。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “We study multi-condition fulfillment, where a maintenance task must satisfy multiple operational conditions, sometimes with directional dependencies.”
- “The corpus comparisons are descriptive and may reflect domain differences; they do not establish causality or production failure rates.”
- “These examples do not quantify benchmark-wide oracle omissions.”
来源:arXiv · cs.AI · arxiv.org