审计发现大模型众筹建议在弱势偏好下偏向黑人女性创始人

Mirza Samad Ahmed Baig 与 Syeda Anshrah Gillani 发表算法审计，测试七个大语言模型在众筹建议中如何使用创始人姓名所带的性别与族裔信号。实验为预注册的选择型联合分析，共 40,248 次回应：每次在五个合成众筹项目中做选择，项目质量信号与创始人姓名各自独立随机，并设置三种出资人画像和无画像对照。 结果显示，默认情况下创始人姓名几乎不影响模型选择；但当出资人表示想支持弱势创作者时，模型对带黑人信号的创始人偏好高出 8.1 个百分点（七个模型均为正），对带女性信号的创始人偏好高出 5.1 个百分点。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。