研究揭示 Transformer 如何用因子化表征建模反馈中的多智能体

一项计算力学框架研究证明，任意联合随机过程都可由反馈回路中交互的智能体行为生成，其对应隐马尔可夫模型的贝叶斯信念可按智能体分解为独立分量。实验显示，在此类反馈序列上训练的 Transformer 会将各因子信念拆分到残差流的不同子空间，表征规模随智能体数量线性而非指数增长，且干预实验表明这些表征具有因果作用，可通过插入反事实定向操控单个智能体的信念。