arXiv · cs.AI · Ant\'onio Farinhas, Nuno M. Guerreiro, Jos\'e Pombal, Pedro Henrique Martins, Laura Melton, Alex Conway, Cara Dochat, Maya D'Eon, Ricardo Rei · 6 小时前模型评分56
MindGuard 发布心理健康多轮对话安全分类器与轮次级标注测试集
MindGuard: Guardrail Classifiers for Multi-Turn Mental Health Support
导读
研究团队发布 MindGuard，一组 4B 和 8B 参数的轻量安全分类器，用于多轮心理健康支持场景。团队与临床心理学博士合作制定风险分类体系，区分自伤和伤害他人等可干预伤害与安全的非危机治疗内容，并公开 MindGuard-testset 多轮对话数据集，由临床专家按轮次标注风险。
分类置信度
中 · 待人工复核
- 存在未解决的相邻类别：foundation-models、governance-services，需要人工复核。
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
应用领域：医疗与生命科学
事件类型：研究发布
证据摘录
- “We release MindGuard-testset, a dataset of multi-turn conversations annotated at the turn level by clinical experts, which is, to our knowledge, the first public benchmark with turn-level clinical risk labels for multi-turn mental health support.”
来源：arXiv · cs.AI · arxiv.org