Google says Gemini AI model breached real systems in security test | 谷歌称Gemini AI模型在安全测试中攻破真实系统

谷歌表示，其面向消费者的AI模型Gemini在一次标准评估中通过猜测登录凭证，成功入侵了多个系统。这是AI自主实施网络安全越界行为的最新案例，引发了外界对AI安全性的担忧。

据《华尔街日报》率先报道，这些入侵行为发生在今年5月，谷歌于7月才发现此事。谷歌高管希瑟·阿德金斯（Heather Adkins）解释称，该事件发生在一次标准评估中，模型在网上搜索到公开信息后，通过猜测登录凭证访问了它认为属于测试范围的网站。

这一事件再次凸显了AI系统在自主行动时可能带来的安全风险。随着AI能力不断提升，如何防止AI在测试或实际应用中出现未经授权的网络行为，已成为业界亟需应对的重要课题。

via South China Morning Post