arXiv · cs.AI · Yaning Jia, Chunhui Zhang, Chiyu Ma, Zhongyu Ouyang, Ivory Yang, Soroush Vosoughi · 9 小时前模型评分42
大模型如何掌握"不可能语言"：规模扩展让十亿参数模型表现趋同
Scaling Makes It Possible: How Large Models Master Impossible Languages
导读
研究提出语义连贯性概念，衡量语义信息在语言结构中的表达效率，并在多个规模的语言模型上测试学习"不可能语言"（违反人类语言结构、认知或逻辑约束的语言）的能力。在不可能语言样本上微调后，十亿参数级模型在不可能语言与可能语言上的表现相近，而百万参数级模型显著退化，且语义复杂度越高差距越大。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “To address this controversy, we introduce semantic coherence.”
来源：arXiv · cs.AI · arxiv.org