arXiv · cs.AI · Suze van Adrichem, Luke Bailey, Rohith Kuditipudi, Christine Ye, Neil Band, Ahmed Ahmed, John Duchi, Percy Liang, Tatsunori Hashimoto · 9 小时前模型评分48
Hinted Scaling Laws:用提示信息改进下游扩展定律预测
Hinted Scaling Laws
导读
研究者提出“提示扩展定律”(hinted scaling laws),通过特权信息把基准测试转成一系列更简单的版本,让小模型也能得分高于零,从而在噪声阈值以下拟合扩展定律。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “We introduce hinted scaling laws, which use privileged information to turn a benchmark into a continuum of easier versions so that even the small models score above zero.”
来源:arXiv · cs.AI · arxiv.org