跳到正文
arXiv · cs.AI · Zhihua Wang, Yunhao Feng, Yifeng Gao, Rui Pan, Baiheng Zhao, Zixing Chen, Xingjun Ma · 11 小时前模型评分51

MemHarmBench 发布:评估持久记忆 人工智能(AI,Artificial Intelligence) 智能体的跨会话提示词注入

MemHarmBench: Evaluating Cross-Session Prompt Injection in Memory-Persistent AI Agents

导读

研究团队发布 MemHarmBench,用于评估持久记忆 人工智能(AI,Artificial Intelligence) 智能体(能跨会话保留用户偏好和操作规则的智能体)的跨会话提示词注入风险。

生成六维分析
分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “We introduce MemHarmBench, a victim-centric benchmark for evaluating cross-session prompt injection in memory-persistent AI agents.”
  • “We publicly release MemHarmBench at this https URL .”

来源:arXiv · cs.AI · arxiv.org