arXiv · cs.AI · Reuth Mirsky · 6 小时前模型评分37
论文提出“智能不服从”：人工智能（AI，Artificial Intelligence） 队友应被允许自主违抗指令
Artificial Intelligent Disobedience: Rethinking the Agency of Our Artificial Teammates
导读
一篇论文主张扩展 人工智能（AI，Artificial Intelligence） 队友的自主性，使其具备“智能不服从”能力，在人类指令可能适得其反或不安全时自主做出有意义的贡献。论文提出 AI 自主性等级量表，并探讨不服从在不同自主等级下的表现，最后给出将其作为智能体核心能力研究的初步边界与考量。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “This paper argues for expanding the agency of AI teammates to include \textit{intelligent disobedience}, empowering them to make meaningful and autonomous contributions within human-AI teams.”
来源：arXiv · cs.AI · arxiv.org