arXiv · cs.AI · Bohan Jiang, Dawei Li, Yasin Silva, Huan Liu2026-11-03 13:00 · 8 小时前模型评分61

论文提出 GAP 方法，测量并检测大语言模型（LLM，Large Language Model）客服助手针对用户弱点的操纵

The Customer Never Sees the Goal: Measuring and Detecting Vulnerability-Targeted Manipulation in LLM Assistants

导读

论文提出目标锚定探测（GAP，Goal-Anchored Probing）方法，用于测量和检测大语言模型客服助手中由运营方设定、用户看不到的目标所引发的针对性操纵（VTM）。

分类置信度

中 · 待人工复核

来源级别：媒体与个人

事件类型：研究发布

证据摘录

“To investigate this at scale, we introduce GAP (Goal-Anchored Probing).”
“We will release our dataset and code to facilitate future research on auditing LLM assistants.”

来源：arXiv · cs.AI · arxiv.org

论文提出 GAP 方法，测量并检测 大语言模型（LLM，Large Language Model） 客服助手针对用户弱点的操纵