研究提出LLM Agent动作来源授权审计方法
热点事件持续更新
研究提出LLM Agent动作来源授权审计方法
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
Junchi Liao等作者发布论文，提出一种按工具和参数目标分别标注上下文因素的来源授权审计方法，用来检验大语言模型智能体选择动作时是否受证据来源影响，并在450个受控的“下一动作”任务上测试多个开源权重模型系列。 结果显示，可信与不可信证据变体在竞争性案例中有5.4%产生不同动作，支持性案例中为1.7%；在受控退化条件下，未经授权的竞争性影响在2.4%的比较中被保留。模型会响应文本中的来源权威线索，但这未能阻止不可信证据影响其动作。 作者称上述数字来自受控压力测试，不代表实际部署中的发生比例。
AI 根据报道生成 · 4 小时前更新
最新进展11月4日 13:00
研究审计 大语言模型（LLM，Large Language Model） 智能体动作选择中的来源敏感性报道时间线
沿着报道，了解事件的不同侧面。
11月4日
- arXiv · cs.AI研究审计 大语言模型（LLM，Large Language Model） 智能体动作选择中的来源敏感性
一项研究提出按工具和参数目标分别标注上下文因素的授权审计方法，在 450 个受控下一动作任务中测试多个开源权重 大语言模型（LLM，Large Language Model） 系列。可信与不可信证据变体在竞争性案例中有 5.4% 产生不同动作，支持性案例中为 1.7%；受控退化下未经授权的竞争影响在 2.4% 的比较中被保留。模型会响应文本来源权威线索，但这并不能阻止不可信证据影响其动作。
本事件热度走势
- 可比范围当前
- 9
- 可比范围峰值
- 1011月4日 14:00
- 近 24 小时变化
- –
02.557.510
14:0015:0016:0017:00
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。