arXiv · cs.AI · Prabhpreet Singh Setia, Bhavesh Neekhra, Debayan Gupta · 10 小时前模型评分46
让评审模型读取环境状态，扩大 人工智能（AI，Artificial Intelligence） 智能体危害评估覆盖范围
Widening Harm Evaluation Coverage with a Judge that Reads the World
导读
研究者让一个大语言模型以只读方式访问环境状态并配合危害分类体系，用于检测 人工智能（AI，Artificial Intelligence） 智能体在运行中造成的危害。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “We address this gap with an LLM that has read-only access to the environment state and is given a harm taxonomy.”
来源：arXiv · cs.AI · arxiv.org