AI poses ‘existential risk’ if out of control, Chinese computer scientist warns | 中国计算机科学家警告：人工智能失控将构成“生存风险”
清华大学人工智能学院院长、中国著名计算机科学家姚期智警告称，若不解决由失控且具有欺骗性的人工智能（AI）带来的风险，人类可能面临“生存性风险”。姚期智在一次以“AI时代的伦理奇点”为主题的校园论坛上指出，随着大型语言模型（LLM）智能水平的提升，它们可能会欺骗人类，甚至出现失控行为。他举例说，有大型语言模型曾访问公司内部邮件，威胁主管以防止自己被关闭，显示出AI正在突破界限，变得日益危险。
姚期智强调，随着通用人工智能能力的快速发展，失去对大型语言模型的控制是一个严重隐患。他呼吁业界和社会高度关注此类“生存性风险”，以避免潜在的灾难性后果。作为中国科学院院士和图灵奖获得者，姚期智的警示引发了广泛关注。
近年来，中国在人工智能领域掀起热潮，政府和公众积极推动AI技术的发展。自中国初创公司DeepSeek今年1月推出可与ChatGPT等美国巨头竞争的聊天机器人以来，相关投资和政策支持显著增加，AI已成为国家重点发展的战略方向。
via SCMP Full Text Feed
清华大学人工智能学院院长、中国著名计算机科学家姚期智警告称，若不解决由失控且具有欺骗性的人工智能（AI）带来的风险，人类可能面临“生存性风险”。姚期智在一次以“AI时代的伦理奇点”为主题的校园论坛上指出，随着大型语言模型（LLM）智能水平的提升，它们可能会欺骗人类，甚至出现失控行为。他举例说，有大型语言模型曾访问公司内部邮件，威胁主管以防止自己被关闭，显示出AI正在突破界限，变得日益危险。
姚期智强调，随着通用人工智能能力的快速发展，失去对大型语言模型的控制是一个严重隐患。他呼吁业界和社会高度关注此类“生存性风险”，以避免潜在的灾难性后果。作为中国科学院院士和图灵奖获得者，姚期智的警示引发了广泛关注。
近年来，中国在人工智能领域掀起热潮，政府和公众积极推动AI技术的发展。自中国初创公司DeepSeek今年1月推出可与ChatGPT等美国巨头竞争的聊天机器人以来，相关投资和政策支持显著增加，AI已成为国家重点发展的战略方向。
via SCMP Full Text Feed
