arXiv · cs.AI · Zhihua Wang, Yunhao Feng, Yifeng Gao, Rui Pan, Baiheng Zhao, Zixing Chen, Xingjun Ma · 11 小时前模型评分51
MemHarmBench 发布:评估持久记忆 人工智能(AI,Artificial Intelligence) 智能体的跨会话提示词注入
MemHarmBench: Evaluating Cross-Session Prompt Injection in Memory-Persistent AI Agents
导读
研究团队发布 MemHarmBench,用于评估持久记忆 人工智能(AI,Artificial Intelligence) 智能体(能跨会话保留用户偏好和操作规则的智能体)的跨会话提示词注入风险。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “We introduce MemHarmBench, a victim-centric benchmark for evaluating cross-session prompt injection in memory-persistent AI agents.”
- “We publicly release MemHarmBench at this https URL .”
来源:arXiv · cs.AI · arxiv.org