跳到正文
arXiv · cs.AI · Shiting Wang, Yingjie Zou, Ke li · 6 小时前模型评分39

CUSD:面向无数据模型合并的公共与独有方向分离方法

Separating Common and Unique Directions for Data-Free Model Merging

导读

研究者提出无数据预合并方法 CUSD(Common–Unique Subspace Decomposition,公共—独有子空间分解),把任务向量拆成公共方向分量与独有残差,公共部分交给原有算术合并算子处理,独有部分单独保留。

分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “These findings motivate Common--Unique Subspace Decomposition (CUSD), a data-free pre-merging method that separates task vectors into common and unique directional components, merges the common components with downstream arithmetic operator, and retains unique residuals separately.”
  • “Our code is publicly available at this https URL”

来源:arXiv · cs.AI · arxiv.org