arXiv · cs.AI · Muhammed Ustaomeroglu, Guannan Qu · 8 小时前模型评分42
用表征有效理论理解、预测与引导大语言模型行为
Understanding, Predicting, and Steering LLM Behavior via Representational Effective Theory
导读
研究者提出表征有效理论（RET，Representational Effective Theory），可从模型隐藏状态轨迹中学习低维宏观状态及其动力学，这些宏观状态呈现近似闭合的演化，并在推理过程中留下可解释的轨迹。该方法能在生成早期预测谄媚与对齐伪装行为，通过引导模型进入选定宏观状态还能改变其推理表现。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “We introduce Representational Effective Theory (RET), a framework that learns low-dimensional macrostates and their dynamics from a model's hidden-state trajectories.”
来源：arXiv · cs.AI · arxiv.org