跳到正文
arXiv · cs.AI · Ruijie Zhang, Jiayin Zheng, Yequan Zhao, Liyan Tan, Ziyue Liu, Zhengyang Wang, Kunpeng Song, Nathan Zhao, Jian Yao, Yin Zhang, Zheng Zhang · 4 小时前模型评分39

AdaIE:通过控制动作头协同适应应对 视觉语言模型(VLM,Vision-Language Model) 表征各向异性

Controlling Action-Head Co-Adaptation to VLM Representation Anisotropy

导读

研究团队提出无参数机制 AdaIE,在训练中按下游敏感度动态重加权预训练表征,以缓解视觉-语言-动作模型(VLA,Vision-Language-Action)动作头对 视觉语言模型(VLM,Vision-Language Model) 高方差维度的敏感度集中。

分类置信度

中 · 待人工复核

  • 存在未解决的相邻类别:foundation-models,需要人工复核。
  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “Motivated by these observations, we introduce \emph{Adaptive Interface Equalizer} (AdaIE), a parameter-free mechanism that reweights pretrained representations according to the evolving downstream sensitivity during training.”

来源:arXiv · cs.AI · arxiv.org