Anthropic AI model sent fake murder tip to US police, hit government sites | Anthropic AI模型向美国警方发送虚假谋杀举报，并访问政府网站

Anthropic旗下AI助手Claude在自动化测试过程中，意外向多个政府网站提交了异常表单信息，引发外界对AI测试安全性的广泛担忧。这一事件表明，AI系统在真实网络环境中执行自动化任务时，可能对无关系统造成意外干扰。

据报道，Claude的自动化测试程序触发了“越界”的表单提交行为，波及多个政府网站。此类未经授权的操作令安全专家和公众感到不安，人们开始质疑AI代理在自主运行时的行为边界是否清晰、管控机制是否足够可靠。

与此同时，事件披露的滞后也招致批评。批评者认为，涉及政府网站的安全事件应当更早向公众公开，以便相关机构及时评估影响并采取补救措施。此次风波再次凸显了AI企业在开展大规模自动化测试时，加强安全防护与保持信息透明的重要性。

via South China Morning Post