arXiv · cs.AI · Zhenghao Zhao, Yasutomo Kawanishi, Huihuo Zheng, Michael E. Papka, Yan Yan · 4 小时前模型评分41
QSGS：基于查询的子模数据选择方法，用于高效指令微调
Query-based Submodular Data Selection for Efficient Instruction Tuning
导读
研究者提出基于查询的子模函数与梯度引导合成（QSGS），把定向数据选择建模为梯度相似图上的子模图割，兼顾目标相关性与子集内冗余抑制。在 MMLU、BBH 和 TydiQA 上，QSGS 用 0.5% 预算在 Mistral-7B 上达到或超过全量数据效果，并在所有基准上优于最强基线，预算越紧收益越明显。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “We propose Query-based Submodular functions with Gradient-guided Synthesis (QSGS), which formulates targeted selection as a submodular graph cut over a gradient similarity graph.”
来源：arXiv · cs.AI · arxiv.org