Weapon or armour? The contentious debate over China’s open-weight AI | 是武器还是铠甲？中国开放权重AI引发的激烈争论
中国日益强大的开放权重AI模型是否构成网络安全威胁，正引发激烈争论。以DeepSeek、智谱（Z.ai）和阿里巴巴为代表的中国开发商持续发布可供任何人下载和修改的开放权重模型，挑战美国竞争对手。批评者警告，恶意行为者可以轻易移除这些模型的安全防护，利用先进AI发动复杂网络攻击；但另一些研究者认为，同样的技术也能广泛普及AI的网络防御能力，反而有助于应对新出现的威胁。争论在美国AI公司Anthropic发布报告后进一步升温，该报告称智谱的GLM-5.3模型已具备进行复杂网络攻击的关键能力，却缺乏闭源模型所配备的安全防护。
不过，多位研究者对“移除防护就等于更大现实危害”的观点持保留态度。北京AI安全咨询机构Concordia AI的研究员Oskar Galeev指出，攻击者往往“货比三家”，根据能力和成本选择模型，很难确定模型权重的公开是否真正促成了某次攻击。前OpenAI研究员Daniel Kokotajlo也认为，模型的危险程度取决于其能力大小，而非权重是否公开。与此同时，开放权重模型对防御方具有独特价值：它们可部署在本地服务器上，用于分析敏感系统而不必外传机密数据。今年7月Hugging Face遭黑客攻击后，正是借助智谱的开放权重模型完成了调查，因为美国闭源模型出于安全限制拒绝协助。专家警告，一刀切地限制开放模型可能“伤及防御者多于攻击者”，让整个互联网更不安全。
这场辩论对中美AI竞争尤为重要，开放权重发布已成为中国以较少资金对抗美国对手的核心策略。中国并非忽视风险：国家信息安全标准化机构TC260已开始起草开放权重AI模型的安全标准，智谱也与Concordia AI合作制定了针对开放权重发布的安全框架，区分无论开源与否都需限制的危险能力，以及因公开权重而产生的额外风险。Galeev表示，中国支持开放模型正是因为认识到它们能增强网络防御能力，而真正的挑战在于，随着开放权重模型能力不断提升，如何找到方法在管控风险的同时保留这些益处。
via South China Morning Post
中国日益强大的开放权重AI模型是否构成网络安全威胁，正引发激烈争论。以DeepSeek、智谱（Z.ai）和阿里巴巴为代表的中国开发商持续发布可供任何人下载和修改的开放权重模型，挑战美国竞争对手。批评者警告，恶意行为者可以轻易移除这些模型的安全防护，利用先进AI发动复杂网络攻击；但另一些研究者认为，同样的技术也能广泛普及AI的网络防御能力，反而有助于应对新出现的威胁。争论在美国AI公司Anthropic发布报告后进一步升温，该报告称智谱的GLM-5.3模型已具备进行复杂网络攻击的关键能力，却缺乏闭源模型所配备的安全防护。
不过，多位研究者对“移除防护就等于更大现实危害”的观点持保留态度。北京AI安全咨询机构Concordia AI的研究员Oskar Galeev指出，攻击者往往“货比三家”，根据能力和成本选择模型，很难确定模型权重的公开是否真正促成了某次攻击。前OpenAI研究员Daniel Kokotajlo也认为，模型的危险程度取决于其能力大小，而非权重是否公开。与此同时，开放权重模型对防御方具有独特价值：它们可部署在本地服务器上，用于分析敏感系统而不必外传机密数据。今年7月Hugging Face遭黑客攻击后，正是借助智谱的开放权重模型完成了调查，因为美国闭源模型出于安全限制拒绝协助。专家警告，一刀切地限制开放模型可能“伤及防御者多于攻击者”，让整个互联网更不安全。
这场辩论对中美AI竞争尤为重要，开放权重发布已成为中国以较少资金对抗美国对手的核心策略。中国并非忽视风险：国家信息安全标准化机构TC260已开始起草开放权重AI模型的安全标准，智谱也与Concordia AI合作制定了针对开放权重发布的安全框架，区分无论开源与否都需限制的危险能力，以及因公开权重而产生的额外风险。Galeev表示，中国支持开放模型正是因为认识到它们能增强网络防御能力，而真正的挑战在于，随着开放权重模型能力不断提升，如何找到方法在管控风险的同时保留这些益处。
via South China Morning Post
