arXiv · cs.AI · Xianchao Guan, Zijun Xiong, Yifeng Wang, Yubo Cui, Yaowei Wang, Guo-Sen Xie, Xin Li, Zheng Zhang · 12 小时前模型评分36
SWIFT:用小世界连接打破稀疏微调中的信息孤岛
Breaking Information Islands in Sparse Tuning via Small-World Connectivity
导读
研究提出稀疏微调框架SWIFT(Small-World Induced Fine-Tuning),将块对角稀疏更新与固定的确定性散射置换结合,在不增加可训练参数的情况下打通特征维度间的信息孤岛。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “To address this issue, we propose Small-World Induced Fine-Tuning (SWIFT), a sparse tuning framework inspired by small-world connectivity.”
来源:arXiv · cs.AI · arxiv.org