arXiv · cs.AI · Shiting Wang, Yingjie Zou, Ke li · 6 小时前模型评分39
CUSD:面向无数据模型合并的公共与独有方向分离方法
Separating Common and Unique Directions for Data-Free Model Merging
导读
研究者提出无数据预合并方法 CUSD(Common–Unique Subspace Decomposition,公共—独有子空间分解),把任务向量拆成公共方向分量与独有残差,公共部分交给原有算术合并算子处理,独有部分单独保留。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “These findings motivate Common--Unique Subspace Decomposition (CUSD), a data-free pre-merging method that separates task vectors into common and unique directional components, merges the common components with downstream arithmetic operator, and retains unique residuals separately.”
- “Our code is publicly available at this https URL”
来源:arXiv · cs.AI · arxiv.org