OpenAI executive urges caution in China-US AI talks, warns of distillation threats | OpenAI高管呼吁中美AI对话保持谨慎，警告“蒸馏”威胁
OpenAI国家安全事务副主管卡罗琳·齐尔（Caroline Zier）周一表示，华盛顿在即将举行的美中人工智能对话中需要保持“清醒”，警惕与北京分享信息，同时警告所谓中国“蒸馏攻击”对美国技术的威胁。她在美国哈德逊研究所的讨论中称，美方应清楚了解分享信息后能获得何种回报，并质疑美中双方对AI风险的理解是否一致：“我非常怀疑，当我们说安全性和失控时，中共用同样的词汇时指的是同样的担忧。”
美国财政部长贝森特与中国国务院副总理何立峰预计将于本月晚些时候会晤，为特朗普与习近平在深圳亚太经合组织（Apec）峰会期间的三度会晤做准备。两国技术团队正就9月宣布的框架细节进行定期磋商，AI合作可能成为会谈成果之一。不过，乔治城大学安全与新兴技术中心研究员萨姆·布雷斯尼克认为，美中AI风险“热线”难以有效运作，因为“中方根本不会快速分享信息”。中国驻美使馆此前回应称，北京“对通过AI对话机制保持沟通持开放态度”，并强调中国在AI发展中统筹发展与安全。
关于蒸馏攻击，齐尔区分了经授权的蒸馏与“未经授权的蒸馏”，并称此类活动“主要来自中国实验室”，旨在窃取受保护的知识产权、剥离模型中的安全防护措施。北京方面已在9月驳斥美方指控，称其缺乏事实和法律依据，并警告将采取反制措施。值得注意的是，尽管美方将未经授权的蒸馏视为对知识产权的威胁，西方初创企业却越来越多地使用中国高性价比的开源权重模型。有估计称近80%的美国AI初创企业在使用中国模型。与会专家同时警告，若未来中方限制模型供应，美国可能面临高昂的替换成本和对华技术依赖风险。
via South China Morning Post
OpenAI国家安全事务副主管卡罗琳·齐尔（Caroline Zier）周一表示，华盛顿在即将举行的美中人工智能对话中需要保持“清醒”，警惕与北京分享信息，同时警告所谓中国“蒸馏攻击”对美国技术的威胁。她在美国哈德逊研究所的讨论中称，美方应清楚了解分享信息后能获得何种回报，并质疑美中双方对AI风险的理解是否一致：“我非常怀疑，当我们说安全性和失控时，中共用同样的词汇时指的是同样的担忧。”
美国财政部长贝森特与中国国务院副总理何立峰预计将于本月晚些时候会晤，为特朗普与习近平在深圳亚太经合组织（Apec）峰会期间的三度会晤做准备。两国技术团队正就9月宣布的框架细节进行定期磋商，AI合作可能成为会谈成果之一。不过，乔治城大学安全与新兴技术中心研究员萨姆·布雷斯尼克认为，美中AI风险“热线”难以有效运作，因为“中方根本不会快速分享信息”。中国驻美使馆此前回应称，北京“对通过AI对话机制保持沟通持开放态度”，并强调中国在AI发展中统筹发展与安全。
关于蒸馏攻击，齐尔区分了经授权的蒸馏与“未经授权的蒸馏”，并称此类活动“主要来自中国实验室”，旨在窃取受保护的知识产权、剥离模型中的安全防护措施。北京方面已在9月驳斥美方指控，称其缺乏事实和法律依据，并警告将采取反制措施。值得注意的是，尽管美方将未经授权的蒸馏视为对知识产权的威胁，西方初创企业却越来越多地使用中国高性价比的开源权重模型。有估计称近80%的美国AI初创企业在使用中国模型。与会专家同时警告，若未来中方限制模型供应，美国可能面临高昂的替换成本和对华技术依赖风险。
via South China Morning Post
