跳到正文
arXiv · cs.AI · Chung-Wei Victor Yuan · 9 小时前模型评分35

用嵌入一致性调节实现小型语言模型的持久语义路由

Embedding Consistency Regulation for Persistent Semantic Routing in Compact Language Models

导读

研究提出嵌入一致性调节(ECR,Embedding Consistency Regulation),用冻结的嵌入模型为每个输入生成短离散前缀,训练和推理时采用相同前缀构造,在受控实验中语言路由准确率达 99.93%±0.12%,而随机、打乱和虚拟对照组仅接近随机水平(34–36%)。

生成六维分析
分类置信度

中 · 待人工复核

  • 只有单一媒体来源,需要人工复核。

来源级别:媒体与个人

事件类型:研究发布

证据摘录

  • “We investigate this property using Embedding Consistency Regulation (ECR) as a minimal probe.”

来源:arXiv · cs.AI · arxiv.org