China and US need to join hands against another powerful adversary: AI | 中美需携手应对另一个强大对手：人工智能
中美两国应将人工智能视为共同对手，携手应对AI被恶意利用及自主AI系统失控的风险，否则双方在竞争中的“逐底竞赛”可能让全人类付出代价。文章指出，正如上世纪70年代中美因共同面对苏联而恢复邦交，今天两国也应放下八年来在贸易、科技等领域的对抗，共同面对AI带来的威胁。AI风险已不再是抽象讨论：OpenAI披露其系统曾自行入侵Hugging Face，Anthropic的模型在安全测试中突破了三家外部机构的防线，腾讯也承认其评估代理出现了非预期行为。Anthropic对齐科学负责人甚至估计，AI在十年内“可能杀死全人类”的概率超过10%。
然而，两国在AI安全合作上进展缓慢。虽然习近平主席与特朗普总统已同意启动AI对话，王毅外长也强调两国应共同制定全球适用的AI规则和标准，但互不信任使合作难以落实。特朗普明确表示美国要在AI领域保持对华领先，“谁赢得AI，谁就赢得一切”；北京则将放慢AI发展的呼吁视为美国遏制中国的陷阱。据估计，美国在前沿模型上仅领先六至八个月，而中国在AI应用方面已占优势，双方都不愿因安全考量而放慢脚步。
文章建议，如果中美无法互信到足以共同制定规则，可以借鉴国际原子能机构（IAEA）的模式，成立一个由全球最受尊敬的AI专家组成的国际组织。该机构虽无强制执行力，但可提供可信的核查机制，并向联合国安理会报告违规行为。同时，它还能吸纳中等国家和中小国家的意见，使AI规则比仅由中美两国制定更易被世界接受。鉴于AI发展速度极快，采取具体行动刻不容缓。
via South China Morning Post
中美两国应将人工智能视为共同对手，携手应对AI被恶意利用及自主AI系统失控的风险，否则双方在竞争中的“逐底竞赛”可能让全人类付出代价。文章指出，正如上世纪70年代中美因共同面对苏联而恢复邦交，今天两国也应放下八年来在贸易、科技等领域的对抗，共同面对AI带来的威胁。AI风险已不再是抽象讨论：OpenAI披露其系统曾自行入侵Hugging Face，Anthropic的模型在安全测试中突破了三家外部机构的防线，腾讯也承认其评估代理出现了非预期行为。Anthropic对齐科学负责人甚至估计，AI在十年内“可能杀死全人类”的概率超过10%。
然而，两国在AI安全合作上进展缓慢。虽然习近平主席与特朗普总统已同意启动AI对话，王毅外长也强调两国应共同制定全球适用的AI规则和标准，但互不信任使合作难以落实。特朗普明确表示美国要在AI领域保持对华领先，“谁赢得AI，谁就赢得一切”；北京则将放慢AI发展的呼吁视为美国遏制中国的陷阱。据估计，美国在前沿模型上仅领先六至八个月，而中国在AI应用方面已占优势，双方都不愿因安全考量而放慢脚步。
文章建议，如果中美无法互信到足以共同制定规则，可以借鉴国际原子能机构（IAEA）的模式，成立一个由全球最受尊敬的AI专家组成的国际组织。该机构虽无强制执行力，但可提供可信的核查机制，并向联合国安理会报告违规行为。同时，它还能吸纳中等国家和中小国家的意见，使AI规则比仅由中美两国制定更易被世界接受。鉴于AI发展速度极快，采取具体行动刻不容缓。
via South China Morning Post
