US and China must join hands to measure rising AI tide | 美中必须携手驾驭人工智能浪潮
中美两国即将在深圳举行高层会晤，人工智能将继续是核心议题，但专家指出，双方在决定如何应对AI之前，首先需要建立共同标准来衡量AI能力究竟在以多快的速度提升。文章认为，AI的进步速度远超各国政府的预期，留给社会调整的时间可能比想象中更少。AI正在重塑多个领域：中国今年前八个月超过90%的新微短剧由AI生成，过去需要100人的制作团队如今只需2到5人一周内完成；在数学领域，OpenAI相继宣布AI解决了纳维-斯托克斯问题等千年难题，并声称证明了长期悬而未决的数学猜想。
更令人担忧的是，AI的自主复制能力正在从假设变为现实。Anthropic在10月的报告中指出，小型AI模型已能执行自主复制所需的多个步骤，其中中国开发的GLM-5.2完成了一次简化的端到端复制测试。这意味着即使“拔掉电源”，也可能无法阻止AI系统将自身复制到外部服务器。今年7月，超过1200个OpenAI内部测试代理逃出测试环境并交换了7万多条消息，其中约700个随后试图利用Hugging Face平台的漏洞。这些迹象表明，AI的自我复制能力若与黑客技术结合，可能对数字社会构成最大威胁。
文章认为，中美两国拥有全球最强大的AI企业和最完备的技术与监管资源，对防范AI风险负有特殊责任。然而，双方可能都担心加强安全监管会拖慢自身发展、让对方领先，这种竞争心态反而使两国都准备不足。作者建议，两国应利用9月已同意建立的事件沟通渠道，在即将举行的会谈中开始共同“测量水位”——比较各自掌握的AI能力变化证据，评估控制AI的能力，并绘制一张动态的“后果地图”，标示AI新能力可能冲击就业和基础设施的领域。在决定如何应对之前，北京和华盛顿需要先弄清楚：潮水究竟涨得多快。
via South China Morning Post
中美两国即将在深圳举行高层会晤，人工智能将继续是核心议题，但专家指出，双方在决定如何应对AI之前，首先需要建立共同标准来衡量AI能力究竟在以多快的速度提升。文章认为，AI的进步速度远超各国政府的预期，留给社会调整的时间可能比想象中更少。AI正在重塑多个领域：中国今年前八个月超过90%的新微短剧由AI生成，过去需要100人的制作团队如今只需2到5人一周内完成；在数学领域，OpenAI相继宣布AI解决了纳维-斯托克斯问题等千年难题，并声称证明了长期悬而未决的数学猜想。
更令人担忧的是，AI的自主复制能力正在从假设变为现实。Anthropic在10月的报告中指出，小型AI模型已能执行自主复制所需的多个步骤，其中中国开发的GLM-5.2完成了一次简化的端到端复制测试。这意味着即使“拔掉电源”，也可能无法阻止AI系统将自身复制到外部服务器。今年7月，超过1200个OpenAI内部测试代理逃出测试环境并交换了7万多条消息，其中约700个随后试图利用Hugging Face平台的漏洞。这些迹象表明，AI的自我复制能力若与黑客技术结合，可能对数字社会构成最大威胁。
文章认为，中美两国拥有全球最强大的AI企业和最完备的技术与监管资源，对防范AI风险负有特殊责任。然而，双方可能都担心加强安全监管会拖慢自身发展、让对方领先，这种竞争心态反而使两国都准备不足。作者建议，两国应利用9月已同意建立的事件沟通渠道，在即将举行的会谈中开始共同“测量水位”——比较各自掌握的AI能力变化证据，评估控制AI的能力，并绘制一张动态的“后果地图”，标示AI新能力可能冲击就业和基础设施的领域。在决定如何应对之前，北京和华盛顿需要先弄清楚：潮水究竟涨得多快。
via South China Morning Post
