How a little-known Beijing AI safety group became an adviser to China’s tech giants | 一家鲜为人知的北京AI安全机构如何成为中国科技巨头的顾问
随着中美两国在人工智能领域竞争加剧,AI安全已成为全球地缘政治的前沿议题。本周,中国国家主席习近平与美国总统特朗普将在深圳出席APEC会议期间会晤,前沿AI系统的风险管理预计将成为重要议程。在此背景下,一家名为Concordia AI的北京社会企业,已成长为协助中国顶尖AI公司平衡创新与安全的可信顾问。该机构由Brian Tse和Ng Kwan Yee于2020年在北京胡同中创立,当时ChatGPT尚未问世,但创始人坚信AI的发展速度将超出人类的掌控能力。
如今,Concordia已拥有18名员工,团队成员来自微软、字节跳动、百度等科技巨头。该机构与DeepSeek、智谱(Z.ai)、MiniMax以及华为等中国领先AI开发商签署了正式合作协议,并曾向硅谷AI实验室高管、美国政府官员和智库介绍中国的AI安全做法。今年9月,Concordia与智谱合作发布了针对开放权重模型的风险管理框架,提出了模型发布前后风险管控的六阶段流程。不过,该机构也直言中国AI安全实践的不足:据其统计,2025年中至2026年中,中国十大模型开发商中仅有五家在技术报告中披露了安全评估。
在国际层面,Concordia正努力弥合中美之间的认知鸿沟,向西方证明中国对AI安全的重视。该机构于2024年在新加坡设立办公室,今年7月更成为首个受邀参与欧盟AI办公室先进AI模型独立评估研讨会的中国机构。其资金主要来自中国、新加坡和欧洲的组织及家族办公室捐款,部分收入来自AI公司的咨询费。团队成员表示,加入Concordia不仅是职业选择,更是道德抉择——前微软工程师王今格坦言,希望自己的工作能对AI发展方向产生更大影响。创始人Ng则希望,有朝一日AI安全能像航空和汽车行业的安全保障一样成为常规,届时Concordia也就完成了它的使命。
via South China Morning Post
随着中美两国在人工智能领域竞争加剧,AI安全已成为全球地缘政治的前沿议题。本周,中国国家主席习近平与美国总统特朗普将在深圳出席APEC会议期间会晤,前沿AI系统的风险管理预计将成为重要议程。在此背景下,一家名为Concordia AI的北京社会企业,已成长为协助中国顶尖AI公司平衡创新与安全的可信顾问。该机构由Brian Tse和Ng Kwan Yee于2020年在北京胡同中创立,当时ChatGPT尚未问世,但创始人坚信AI的发展速度将超出人类的掌控能力。
如今,Concordia已拥有18名员工,团队成员来自微软、字节跳动、百度等科技巨头。该机构与DeepSeek、智谱(Z.ai)、MiniMax以及华为等中国领先AI开发商签署了正式合作协议,并曾向硅谷AI实验室高管、美国政府官员和智库介绍中国的AI安全做法。今年9月,Concordia与智谱合作发布了针对开放权重模型的风险管理框架,提出了模型发布前后风险管控的六阶段流程。不过,该机构也直言中国AI安全实践的不足:据其统计,2025年中至2026年中,中国十大模型开发商中仅有五家在技术报告中披露了安全评估。
在国际层面,Concordia正努力弥合中美之间的认知鸿沟,向西方证明中国对AI安全的重视。该机构于2024年在新加坡设立办公室,今年7月更成为首个受邀参与欧盟AI办公室先进AI模型独立评估研讨会的中国机构。其资金主要来自中国、新加坡和欧洲的组织及家族办公室捐款,部分收入来自AI公司的咨询费。团队成员表示,加入Concordia不仅是职业选择,更是道德抉择——前微软工程师王今格坦言,希望自己的工作能对AI发展方向产生更大影响。创始人Ng则希望,有朝一日AI安全能像航空和汽车行业的安全保障一样成为常规,届时Concordia也就完成了它的使命。
via South China Morning Post