arXiv · cs.AI · Xinhao Zhong, Mengxuan Wu, Chonghua Liao, Linxi Xie, Ruicheng Feng, Kangqiao Xu, Yanpei Guo, Hao Tan, Jiaxin Hong, Jason Li, Panpan Zhang, Ziheng Qin, Qinglin Lu, Yuzhang Shang, Tongliang Liu, Damian Borth, Haggai Maron, Yongxiang Hua, Zhixiang Wei, Jian Hu, Yunfei Wu, Xing Sun, Xin Li, Haoyu Cao, Zhangyang Wang, Kai Wang · 10 小时前模型评分39
CLIK：一次编码多次作答，把上下文内化为参数
Encode Once, Answer Many: Internalizing Context via Parametric Flow
导读
研究者提出 CLIK，一种上下文条件参数生成器，用带交叉注意力的 Transformer 编码器一次前向生成 低秩适配（LoRA，Low-Rank Adaptation） 参数，把上下文知识内化进冻结的基础模型，无需按任务优化，推理时也不再保留上下文。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “To this end, we propose CLIK, a context-conditioned parameter generator that maps a given context to LoRA parameters for internalizing knowledge in a single forward pass through a Transformer encoder with cross-attention, requiring no test-time gradient updates.”
来源：arXiv · cs.AI · arxiv.org