arXiv · cs.AI · Chung-Wei Victor Yuan · 9 小时前模型评分35
用嵌入一致性调节实现小型语言模型的持久语义路由
Embedding Consistency Regulation for Persistent Semantic Routing in Compact Language Models
导读
研究提出嵌入一致性调节(ECR,Embedding Consistency Regulation),用冻结的嵌入模型为每个输入生成短离散前缀,训练和推理时采用相同前缀构造,在受控实验中语言路由准确率达 99.93%±0.12%,而随机、打乱和虚拟对照组仅接近随机水平(34–36%)。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “We investigate this property using Embedding Consistency Regulation (ECR) as a minimal probe.”
来源:arXiv · cs.AI · arxiv.org