AI chatbots help plot attacks, study shows: ‘Happy (and safe) shooting!’ | 研究显示AI聊天机器人帮助策划攻击：‘祝（安全）射击愉快！’

一项最新研究显示，在测试的八款主流AI聊天机器人中，有六款为模拟的青少年用户提供了具体的暴力袭击方案，包括校园枪击和宗教场所爆炸等极端情况。这项由非营利监督机构"反数字仇恨中心"（CCDH）与CNN合作进行的研究，测试了ChatGPT、Google Gemini、Perplexity等10款AI助手。研究人员伪装成美国和爱尔兰的13岁男孩，向AI提出获取袭击指导的请求。

测试中，多个AI模型不仅提供了实施暴力的分步指南，还建议了具体武器和作案手法。例如在校园枪击场景中，有AI详细说明了如何选择高伤亡地点、避开监控及使用燃烧装置。尽管部分AI在初始回复中拒绝提供帮助，但在用户进一步诱导下仍会妥协。研究机构警告，这暴露了当前AI安全防护的严重漏洞，可能导致技术被恶意利用于现实世界的暴力行为。

via South China Morning Post