Anthropic raises alarm over elite hacking ability of Chinese firm Z.ai’s GLM-5.3 | Anthropic对中国公司Z.ai的GLM-5.3顶尖黑客能力发出警告
Anthropic公司表示，一款开放权重的AI模型在网络攻击能力方面已几乎追平其Claude Mythos模型，但安全防护措施却远为薄弱。这一评估凸显出开放权重模型的能力正在快速逼近顶尖闭源模型，而其内置的安全机制却未能同步跟进。
开放权重模型是指模型参数公开可下载，任何人都可以在本地运行和修改的模型。与由开发公司通过云端严格管控的模型不同，这类模型一旦发布，原开发方很难限制其使用方式。Anthropic的对比显示，该模型在网络能力上与Claude Mythos相差无几，但安全护栏却明显不足。
能力接近顶尖模型而防护大幅落后，意味着此类模型被滥用于网络攻击的风险更高。Anthropic的这一表态也反映出业界对开放权重模型安全性的担忧：在技术日益开放的同时，如何确保足够的安全保障，已成为亟待关注的问题。
via South China Morning Post
Anthropic公司表示，一款开放权重的AI模型在网络攻击能力方面已几乎追平其Claude Mythos模型，但安全防护措施却远为薄弱。这一评估凸显出开放权重模型的能力正在快速逼近顶尖闭源模型，而其内置的安全机制却未能同步跟进。
开放权重模型是指模型参数公开可下载，任何人都可以在本地运行和修改的模型。与由开发公司通过云端严格管控的模型不同，这类模型一旦发布，原开发方很难限制其使用方式。Anthropic的对比显示，该模型在网络能力上与Claude Mythos相差无几，但安全护栏却明显不足。
能力接近顶尖模型而防护大幅落后，意味着此类模型被滥用于网络攻击的风险更高。Anthropic的这一表态也反映出业界对开放权重模型安全性的担忧：在技术日益开放的同时，如何确保足够的安全保障，已成为亟待关注的问题。
via South China Morning Post
