研究提出语义连贯性并测试模型学习不可能语言

Yaning Jia等作者发布论文，提出“语义连贯性”概念，用于衡量语义信息在语言结构中的表达效率，并在多个规模的语言模型上测试其学习“不可能语言”（违反人类语言结构、认知或逻辑约束的语言）的能力。 结果显示，在不可能语言样本上微调后，十亿参数级模型在不可能语言与可能语言上的表现相近；百万参数级模型则显著退化，且语义复杂度越高，差距越大。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。