跳到正文
arXiv · cs.AI · Adibvafa Fallahpour, Parsa Idehpour, Vignesh Kothapalli, Nikita Mounier, Shirley Wu, Shayan Pardis, Jure Leskovec · 6 小时前模型评分49

Memorilla:为冻结 大语言模型(LLM,Large Language Model) 提供潜在语义记忆的记忆系统

Memorilla: Latent Semantic Memory for LLMs

导读

Memorilla 是一种面向冻结大语言模型(LLM,Large Language Model)的记忆系统,可把整份文档集合编码为固定数量的查询相关“memory tokens”,仅用 16 个 memory tokens 就在 8 个基准中的 5 个上优于 Mem0 和 MemoRAG。

分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “Here we introduce Memorilla, a memory system that gathers information from an entire document collection into a fixed number of query-dependent 'memory tokens' for a frozen LLM.”

来源:arXiv · cs.AI · arxiv.org