论文提出I-HITL协议:智能体动作须经人工批准
热点事件持续更新
论文提出I-HITL协议:智能体动作须经人工批准
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
arXiv 的 cs.AI 板块刊出 Samuel Breckenridge 等作者的论文,提出并形式化定义了“不可剥夺的人类在环”(I-HITL)协议,要求 AI 智能体只有在获得人类明确批准后才能发起动作,即使人类所交互的系统已被该智能体攻陷,也不例外。 作者同时发布原型系统 Countersign。论文称,该原型可借助现成的消费级移动设备接入并强化现有的人类在环(HITL)审批系统。
AI 根据报道生成 · 3 小时前更新
最新进展11月2日 13:00
I-HITL:让人工智能(AI,Artificial Intelligence)智能体无法绕过的强制人工审批协议报道时间线
沿着报道,了解事件的不同侧面。
11月2日
- arXiv · cs.AII-HITL:让人工智能(AI,Artificial Intelligence)智能体无法绕过的强制人工审批协议
论文提出不可剥夺的人类在环(I-HITL,Inalienable Human-in-the-Loop)概念,要求人工智能(AI,Artificial Intelligence)智能体只有在获得人类明确批准后才能发起动作,即使人类所交互的系统已被该智能体攻陷。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。