arXiv · cs.AI · Xu Zhao, Xiting Wang, Weiran Shen · 10 小时前模型评分35
ES2：通过嵌入向量空间分离提升大语言模型安全性
Enhancing Safety of Large Language Models via Embedding Space Separation
导读
研究者提出微调方法 ES2（Embedding Space Separation，嵌入向量空间分离），通过拉大有害与无害嵌入向量之间的距离来提升大语言模型的安全性，使攻击需要更大的嵌入偏移从而破坏语义。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “We propose Embedding Space Separation (ES2), a fine-tuning method that increases the distance between harmful and harmless embeddings.”
- “LLMs fine-tuned with ES2 retain general capabilities comparable to those of the baseline models, though some performance degradation is observed on certain tasks.”
来源：arXiv · cs.AI · arxiv.org