arXiv · cs.AI · Rui Song, Yingji Li, Hao Xu · 11 小时前模型评分31
Jev 能否改进上下文学习中的示例检索？
Can Jev Improve Demonstration Retrieval for In-Context Learning?
导读
研究验证了决策导向语言模型 Jev 可直接评估候选示例对查询的效用，从而改进大语言模型上下文学习（ICL，In-Context Learning）的示例检索。但大规模检索时每个候选都需额外决策推理，开销较大，作者提出知识蒸馏方法把 Jev 的效用判断能力迁移到轻量多层感知机（MLP，Multilayer Perceptron），实现高效示例排序并保持有竞争力的检索性能。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “In this paper, we demonstrate that Jev can effectively enhance demonstration retrieval by directly assessing the utility of candidate demonstrations for a given query.”
来源：arXiv · cs.AI · arxiv.org