Self-improving AI the key step towards AGI but safety is key: Z.ai founder | Z.ai创始人：自我改进的AI是迈向AGI的关键一步，但安全至关重要
清华大学教授、智谱（Z.ai）联合创始人唐杰在上海举行的世界顶尖科学家论坛上表示，递归自我改进（RSI）是实现通用人工智能（AGI）的核心研究问题，代表了一种全新的研发范式，将进一步加速AI的发展。他指出，用AI来构建更智能的系统将使AGI更容易实现，但前提是必须安全地进行。
递归自我改进指的是日益强大的AI系统不断优化自身、形成加速循环的过程。近几个月来，美国AI公司OpenAI和Anthropic均表示已看到RSI的早期迹象。Anthropic 9月发布的报告显示，8月其内部AI研发工作中已有26%由AI主导，远高于3月份的约1%。唐杰未透露智谱有多少研发工作由AI完成，但提到智谱最新的GLM-5.3模型曾帮助优化面向中国芯片的推理基础设施，这在同等规模上尚属首次。
随着前沿AI模型从简单聊天机器人转向承担复杂科研任务的智能体，人类研究人员面临工程难度和资金限制的双重压力，借助AI系统本身成为自然选择。不过，也有专家警告RSI可能导致人类因发展过快而失去对AI的控制。对此，唐杰呼吁研究人员保持谦逊，认为AI安全责任应当“共享”，并表示全球应共同组织协作，以保障不仅是一个国家、而是全世界的安全。
via South China Morning Post
清华大学教授、智谱（Z.ai）联合创始人唐杰在上海举行的世界顶尖科学家论坛上表示，递归自我改进（RSI）是实现通用人工智能（AGI）的核心研究问题，代表了一种全新的研发范式，将进一步加速AI的发展。他指出，用AI来构建更智能的系统将使AGI更容易实现，但前提是必须安全地进行。
递归自我改进指的是日益强大的AI系统不断优化自身、形成加速循环的过程。近几个月来，美国AI公司OpenAI和Anthropic均表示已看到RSI的早期迹象。Anthropic 9月发布的报告显示，8月其内部AI研发工作中已有26%由AI主导，远高于3月份的约1%。唐杰未透露智谱有多少研发工作由AI完成，但提到智谱最新的GLM-5.3模型曾帮助优化面向中国芯片的推理基础设施，这在同等规模上尚属首次。
随着前沿AI模型从简单聊天机器人转向承担复杂科研任务的智能体，人类研究人员面临工程难度和资金限制的双重压力，借助AI系统本身成为自然选择。不过，也有专家警告RSI可能导致人类因发展过快而失去对AI的控制。对此，唐杰呼吁研究人员保持谦逊，认为AI安全责任应当“共享”，并表示全球应共同组织协作，以保障不仅是一个国家、而是全世界的安全。
via South China Morning Post
