跳到正文
热点事件持续更新

CLIK:一次前向生成LoRA参数内化上下文

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

研究者 Xinhao Zhong 等人提出 CLIK,一种上下文条件化参数生成器:它用带交叉注意力的 Transformer 编码器,在一次前向中把给定上下文映射为低秩适配(LoRA)参数,从而将上下文知识内化进冻结的基础模型。按论文说法,这一过程不需要按任务做测试时梯度更新,推理时也不再保留上下文。 其核心变化在于把“读上下文”从推理阶段的临时输入改为一次性生成参数。论文未在现有事实中给出效果数据或适用范围。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月3日
  1. arXiv · cs.AI
    CLIK:一次编码多次作答,把上下文内化为参数

    研究者提出 CLIK,一种上下文条件参数生成器,用带交叉注意力的 Transformer 编码器一次前向生成 低秩适配(LoRA,Low-Rank Adaptation) 参数,把上下文知识内化进冻结的基础模型,无需按任务优化,推理时也不再保留上下文。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。