arXiv · cs.AI · Adam Y. Ahmed, Abdullah G. Elafifi · 10 小时前模型评分46
小模型开放推理的测试时扩展:语义聚类投票在数学上有效、在开放文本上失效
Test-Time Scaling for Open-Ended Reasoning at Small Model Scale
导读
研究用语义聚类投票(按语义分组小模型样本并取最大簇代表,无需奖励模型或自评判)测试小模型测试时扩展,在 Qwen2.5-3B、Llama-3.2-3B、Gemma-2-2B 上投票让数学题准确率提升 +10 至 +29 分,MATH-500 上提升 +8.5 分(95% CI [+4.0, +13.0]),但开放文本最多只加 +0.30 评分点。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “We study it at small scale with semantic cluster voting, a judge-free aggregator that groups a small instruct model's samples by meaning and returns the largest cluster's representative, with no reward model or self-judging.”
来源:arXiv · cs.AI · arxiv.org