arXiv · cs.AI · Ayana Hussain, Nicholas Vincent · 10 小时前模型评分47
ChatGPT 被用作监控助手？人工智能（AI，Artificial Intelligence） 辅助监控风险的探索性案例研究
ChatGPT as a Surveillance Assistant? An Exploratory Case Study of AI-Assisted Surveillance Risks
导读
一项案例研究用 110 条提示词测试 ChatGPT 公共网页界面，发现它对 55 条越狱提示词中的 40 条、55 条直接提示词中的 33 条给出了实质性监控指导。即使表示拒绝，ChatGPT 仍可能附带详细操作说明、可用代码或架构建议，且合规回答很少提及政策或隐私保护替代方案。
分类置信度
中 · 待人工复核
- 只有单一媒体来源，需要人工复核。
来源级别：媒体与个人
事件类型：研究发布
证据摘录
- “We present an exploratory case study of what potentially harmful surveillance assistance looks like in ChatGPT's public web interface.”
来源：arXiv · cs.AI · arxiv.org