arXiv · cs.AI · Jiaxin Pan, Osama Mohammed, Daniel Hern\'andez, Steffen Staab · 10 小时前模型评分33
GRATE:用门控旋转注意力为归纳式知识图谱基础模型加入时间编码
GRATE: Temporal Extensions for Inductive KG Foundation Models via Gated Rotary Attention
导读
GRATE(Gated Rotary Attention for Temporal Encoding)是一种不增加可学习参数的实体侧消息函数,通过按边消息与查询的时间差旋转消息并施加查询条件门控,为 Ultra、Trix 等知识图谱基础模型补上时间编码,同时保持结构迁移能力。
分类置信度
中 · 待人工复核
- 存在未解决的相邻类别:foundation-models,需要人工复核。
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “We propose GRATE (Gated Rotary Attention for Temporal Encoding), an entity-side message function that adds no learnable parameters and encodes time through relative time differences by rotating each edge message according to its time gap to the query and applying a query-conditioned gate to select temporally relevant signals.”
来源:arXiv · cs.AI · arxiv.org