跳到正文
arXiv · cs.AI · Jiaxin Pan, Osama Mohammed, Daniel Hern\'andez, Steffen Staab · 10 小时前模型评分33

GRATE:用门控旋转注意力为归纳式知识图谱基础模型加入时间编码

GRATE: Temporal Extensions for Inductive KG Foundation Models via Gated Rotary Attention

导读

GRATE(Gated Rotary Attention for Temporal Encoding)是一种不增加可学习参数的实体侧消息函数,通过按边消息与查询的时间差旋转消息并施加查询条件门控,为 Ultra、Trix 等知识图谱基础模型补上时间编码,同时保持结构迁移能力。

生成六维分析
分类置信度

中 · 待人工复核

  • 存在未解决的相邻类别:foundation-models,需要人工复核。
  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “We propose GRATE (Gated Rotary Attention for Temporal Encoding), an entity-side message function that adds no learnable parameters and encodes time through relative time differences by rotating each edge message according to its time gap to the query and applying a query-conditioned gate to select temporally relevant signals.”

来源:arXiv · cs.AI · arxiv.org