SearchInject：控制检索暴露以防御提示注入

Kainan Zhou 等作者发布 SearchInject，在检索阶段决定是否让可能携带间接提示注入的页面进入模型上下文。在 300 条 SciFact 查询上，BM25 的 top-10 目标暴露率从 0.9408 降至 0.1583，三种检索器的相对降幅为 83.2%–83.7%，而干净检索的 nDCG@10 最大绝对变化仅 0.0018。 该方法用检索相关性、搜索滥用信号、指令可能性及两项相关性交互的联合评分控制准入。隔离阈值在校准集上按干净候选误隔离率 0.5% 的经验约束选取；但冻结后用于测试集时，干净候选的误隔离率为 0.59%–0.65%，高于该约束。作者称，证据支持在所评估的构造族内控制检索暴露，但交互项在同等干净代价下是否带来收益仍未确定。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。