研究用DE-COP攻击测试OpenAI对非公开书籍的识别

Sruly Rosenblat、Tim O'Reilly 和 Ilan Strauss 在 arXiv 发表研究，用 DE-COP 成员推断攻击测试 GPT-4o、GPT-3.5 Turbo 和 GPT-4o Mini 是否表现出对未获授权训练的非公开 O'Reilly 付费书籍内容的识别。研究使用合法获得的 34 本 O'Reilly Media 版权书籍、共 13,962 个段落构建数据集。 研究称结果仍属初步，原因是书籍样本小、后截止对照可能受污染，且模型在规模、架构和训练构成上存在差异。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。