arXiv · cs.AI · Wonbin Lee, Dongki Kim, Sung Ju Hwang · 5 小时前模型评分31
ES-Merging：利用嵌入空间信号合并生物多模态大模型
ES-Merging: Biological MLLM Merging via Embedding Space Signals
导读
研究者提出 ES-Merging，一种从嵌入空间信号估计合并系数的生物多模态大模型（MLLM，Multimodal Large Language Model）合并框架，把合并依据从参数信号转向嵌入信号。该方法利用嵌入空间的粗粒度与细粒度信号分别估计逐层和逐元素的合并系数，并联合得到互补的系数估计。实验显示，ES-Merging 在跨模态推理和单模态知识保持上均优于现有合并方法。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
应用领域：科学研究
事件类型：研究发布
证据摘录
- “To overcome this limitation, we propose the Embedding-Signal-based MLLM Merging (ES-Merging), a framework that estimates merging coefficients from embedding space signals, moving the merging paradigm from the parameter signals to the embedding signals.”
来源：arXiv · cs.AI · arxiv.org