BULLPEN用多通道嵌入提升LLM画像效率

Russell Ro 等作者提出 BULLPEN 框架，在 EmbedLLM 基础上把模型自身回答的文本、回答正确性和问题文本放在一起编码，用于刻画大语言模型的能力画像，并新增 20 个覆盖行为、风格与来源的任务基准。 在 260 个开放权重模型上，BULLPEN 读取回答文本的编码器在新任务上得分 0.48±0.10，高于此前最佳编码器的 0.35±0.10。作者称，这类编码器仅用 400 个问题就能保留全量问题池至少 91% 的能力，推理计算量约为全量池的 1.3%；同样 400 个问题下，仅看正确性的基线保留 83%。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。