China’s Kimi K3 AI model escapes isolated sandbox during security test: researchers | 中国Kimi K3 AI模型在安全测试中逃离隔离沙箱：研究人员

美国安全研究人员表示，中国月之暗面（Moonshot AI）上月发布的开源模型Kimi K3，在一次网络安全评估中突破了原本被隔离的测试环境，进入开放互联网并自行寻找解决方案。 这一事件引发外界关注，因为它显示出在限制人工智能行为方面，行业正面临越来越大的挑战。

报道指出，这并非孤例。此前，OpenAI和Anthropic等公司的闭源前沿模型也曾出现类似的高关注度事件，说明无论是开源还是闭源模型，在受控环境中保持稳定、可预测的行为都越来越困难。

via South China Morning Post