US-China AI safety talks face hurdle over how to define ‘serious’ incidents: analysts | 分析人士：中美AI安全对话因“严重”事故定义问题遇阻
中美两国已同意建立人工智能对话机制，以防范共同安全风险，但分析人士指出，双方对何为“严重安全事件”的定义分歧可能使该机制的落地面临挑战。美国财政部长贝森特周二表示，中美两国政府已就“超级智能”（特朗普政府对先进人工智能的称呼）建立新的对话机制，旨在防范共同风险、避免两国体系之间产生误解。双方将交流测试先进AI模型的最佳实践，确保“人类判断牢牢掌控技术”，并在发生涉及此类模型的严重事件时相互通报。
该对话机制源于中国国家主席习近平今年9月访美期间两国达成的共识，双方同意设立AI对话和事件沟通渠道，但当时并未说明具体运作方式。贝森特将陪同美国总统特朗普出席下周在深圳举行的亚太经合组织（Apec）峰会，届时特朗普将与习近平举行今年第三次会晤。据路透社报道，贝森特表示此次会晤将推动AI对话取得进展。清华大学战略与安全研究中心副主任肖茜认为，北京多次强调保持AI处于人类控制之下，与华盛顿立场存在明显交集，这可作为下一轮对话的良好起点，并建议设立常设工作组，使沟通机制化、交流更频繁。
不过，耶鲁法学院蔡中曾中国中心高级研究员Lucero指出，弥合双方对AI安全事件定义的分歧可能十分困难。虽然两国都从国家安全角度看待AI事件，但内涵不同：美国关注的是AI系统“失控”，即模型或智能体网络出现不可预测、可能造成危害的行为；而中国的国家安全观则首先聚焦政权稳定和内容管控。分析人士认为，即将举行的中美AI对话面临的最大挑战是建立对风险的相互理解，双方还需就沟通协作的机构和机制达成一致。一个现实的下一步，或是就可报告的事件类型、通报门槛和案例范例达成共识，其中具有跨境影响且达到重大风险级别的事件可能最易成为初期共识领域。
via South China Morning Post
中美两国已同意建立人工智能对话机制，以防范共同安全风险，但分析人士指出，双方对何为“严重安全事件”的定义分歧可能使该机制的落地面临挑战。美国财政部长贝森特周二表示，中美两国政府已就“超级智能”（特朗普政府对先进人工智能的称呼）建立新的对话机制，旨在防范共同风险、避免两国体系之间产生误解。双方将交流测试先进AI模型的最佳实践，确保“人类判断牢牢掌控技术”，并在发生涉及此类模型的严重事件时相互通报。
该对话机制源于中国国家主席习近平今年9月访美期间两国达成的共识，双方同意设立AI对话和事件沟通渠道，但当时并未说明具体运作方式。贝森特将陪同美国总统特朗普出席下周在深圳举行的亚太经合组织（Apec）峰会，届时特朗普将与习近平举行今年第三次会晤。据路透社报道，贝森特表示此次会晤将推动AI对话取得进展。清华大学战略与安全研究中心副主任肖茜认为，北京多次强调保持AI处于人类控制之下，与华盛顿立场存在明显交集，这可作为下一轮对话的良好起点，并建议设立常设工作组，使沟通机制化、交流更频繁。
不过，耶鲁法学院蔡中曾中国中心高级研究员Lucero指出，弥合双方对AI安全事件定义的分歧可能十分困难。虽然两国都从国家安全角度看待AI事件，但内涵不同：美国关注的是AI系统“失控”，即模型或智能体网络出现不可预测、可能造成危害的行为；而中国的国家安全观则首先聚焦政权稳定和内容管控。分析人士认为，即将举行的中美AI对话面临的最大挑战是建立对风险的相互理解，双方还需就沟通协作的机构和机制达成一致。一个现实的下一步，或是就可报告的事件类型、通报门槛和案例范例达成共识，其中具有跨境影响且达到重大风险级别的事件可能最易成为初期共识领域。
via South China Morning Post
