As AI cyber risks grow, Chinese chip expert urges shared ethics standards with US rivals | 随着AI网络风险加剧，中国芯片专家呼吁与美国同行共建伦理标准
寒武纪联合创始人陈云霁在上海世界顶尖科学家论坛上呼吁，中美两国领先的AI模型应建立统一的伦理标准，以应对日益增长的社会风险。他提议设立一个所有主流大模型——包括中国的DeepSeek、字节跳动以及美国的OpenAI——都必须通过的通用“伦理检查器”，以防止大语言模型未来对人类造成伤害。他的发言正值全球AI系统快速发展之际，近期已发生多起威胁关键基础设施和政府服务器的高调网络攻击。
陈云霁警告，人类可能很快面临能够“递归自我改进”（RSI）的AI系统，鉴于AI决策的不透明性，完全防止危害或将不可能。但他表示有信心通过利用AI本身在各阶段监控更强大的后续系统，使RSI变得安全。近期，中国已提议对先进AI系统实施出口管制，并对突破网络攻击能力门槛的系统加以限制。网络安全公司CrowdStrike周四报告称，有组织自10月17日以来利用开源DeepSeek模型对全球200多个机构发动网络攻击，DeepSeek暂未回应。
图灵奖得主、斯坦福大学名誉教授马丁·赫尔曼也在论坛上表示，当前世界无法阻止AI发展，中美应合作治理AI，避免走向“全球性灾难”。他指出，两国不应互相强加治理政策，而应“从内部”开始合作。纽约科学院院长尼古拉斯·迪克斯则表示，中美推动着AI革命，肩负寻找更好治理方式的特殊责任。专家们的发言恰逢习近平与特朗普今年剩余两次会晤之前，AI治理预计将成为重要议题。两国已于9月同意建立双边AI安全对话和事件通报机制。
via South China Morning Post
寒武纪联合创始人陈云霁在上海世界顶尖科学家论坛上呼吁，中美两国领先的AI模型应建立统一的伦理标准，以应对日益增长的社会风险。他提议设立一个所有主流大模型——包括中国的DeepSeek、字节跳动以及美国的OpenAI——都必须通过的通用“伦理检查器”，以防止大语言模型未来对人类造成伤害。他的发言正值全球AI系统快速发展之际，近期已发生多起威胁关键基础设施和政府服务器的高调网络攻击。
陈云霁警告，人类可能很快面临能够“递归自我改进”（RSI）的AI系统，鉴于AI决策的不透明性，完全防止危害或将不可能。但他表示有信心通过利用AI本身在各阶段监控更强大的后续系统，使RSI变得安全。近期，中国已提议对先进AI系统实施出口管制，并对突破网络攻击能力门槛的系统加以限制。网络安全公司CrowdStrike周四报告称，有组织自10月17日以来利用开源DeepSeek模型对全球200多个机构发动网络攻击，DeepSeek暂未回应。
图灵奖得主、斯坦福大学名誉教授马丁·赫尔曼也在论坛上表示，当前世界无法阻止AI发展，中美应合作治理AI，避免走向“全球性灾难”。他指出，两国不应互相强加治理政策，而应“从内部”开始合作。纽约科学院院长尼古拉斯·迪克斯则表示，中美推动着AI革命，肩负寻找更好治理方式的特殊责任。专家们的发言恰逢习近平与特朗普今年剩余两次会晤之前，AI治理预计将成为重要议题。两国已于9月同意建立双边AI安全对话和事件通报机制。
via South China Morning Post
