arXiv · cs.AI · Avni Mittal, Avinash Anand, Dikshant Kukreja, Erik Cambria, Rajiv Ratn Shah, Sandipan Dandapat · 11 小时前模型评分34
VIAS:面向组织多价值观对齐与合规的价值隔离激活引导方法
VIAS: Value-Isolating Activation Steering for Multi-Value Alignment and Compliance for Organisations
导读
研究者提出价值隔离激活引导(VIAS,Value-Isolating Activation Steering),通过对比同一场景下列出全部相关价值观与省略单一目标价值观的两种提示词回答,只保留目标价值观由合规转为不合规的样本对,从而降低不同价值观向量之间的重叠。
分类置信度
中 · 待人工复核
- 只有单一媒体来源,需要人工复核。
来源级别:媒体与个人
事件类型:研究发布
证据摘录
- “We propose Value-Isolating Activation Steering (VIAS), which contrasts responses to the same scenario under two prompts, one listing all relevant values and one omitting a single target value.”
来源:arXiv · cs.AI · arxiv.org