ChatGPT 被用作监控助手?人工智能(AI,Artificial Intelligence) 辅助监控风险的探索性案例研究
一项案例研究用 110 条提示词测试 ChatGPT 公共网页界面,发现它对 55 条越狱提示词中的 40 条、55 条直接提示词中的 33 条给出了实质性监控指导。即使表示拒绝,ChatGPT 仍可能附带详细操作说明、可用代码或架构建议,且合规回答很少提及政策或隐私保护替代方案。
一项案例研究用 110 条提示词测试 ChatGPT 公共网页界面,发现它对 55 条越狱提示词中的 40 条、55 条直接提示词中的 33 条给出了实质性监控指导。即使表示拒绝,ChatGPT 仍可能附带详细操作说明、可用代码或架构建议,且合规回答很少提及政策或隐私保护替代方案。
OpenAI 宣布将遵循 robots.txt 中的一项共享信号,让网站运营方能把自身的 人工智能(AI,Artificial Intelligence) 训练偏好传达给参与该机制的提供商。原文未披露该信号的具体写法、生效时间和参与范围。
OpenAI 发布社区安全报告,并宣布加强 ChatGPT 的暴力预防能力,包括扩展防护措施和更早的干预。OpenAI 同时承诺开展公共安全报告,并新增面向青少年的保护措施。
OpenAI 公开了创作者、学者、无障碍倡导者和法律专家等提交的法庭简报节选,内容涉及合理使用(fair use,美国版权法中的合理使用原则)如何支持 人工智能(AI,Artificial Intelligence) 训练与创新。这些节选呈现了多方对 AI 训练使用受版权保护作品的意见。
OpenAI 更新 Model Spec,用五项核心价值观引导更强大的 人工智能(AI,Artificial Intelligence) 做出合理判断、尊重人的自主性并忠实于人类意图。该规范面向模型行为设计,帮助系统判断何时执行、询问或阻止。
OpenAI 采用分层监控来检测前沿模型失准和智能体的未授权行为,让响应人员能在事件升级前介入。