SI is the future of AI – just not in the way Trump thinks | 超级智能才是AI的未来——但并非如特朗普所想的那样
人工智能的下一次重大飞跃将来自“自我智能”——即机器能够识别自己不知道什么，主动获取所需知识，并安全地决定如何行动。作者认为，随着美国总统特朗普推动使用“超级智能”一词，这一缩写受到广泛关注，但其真正含义应是“自我智能”，这也解释了为何学界和主要AI公司呼吁暂停AI发展——当前技术路径可能走错了方向。
作者将AI发展分为三个阶段：AI 1.0时代，人类为机器提供知识和规则，解决特定问题；AI 2.0时代，机器通过数据学习规律，催生了今天的生成式AI，如谷歌DeepMind的Gemini Robotics 2和英伟达的Cosmos 3等系统；而AI 3.0的目标是机器能够自主获取智能。所谓“自我智能”，并非指机器拥有意识或人类式的“自我”，而是机器感知环境、获取知识、理解含义、做出决策并采取行动的能力。
作者以机器人为例说明：语言模型可以完美解释什么是杯子，但机器人面对真实的杯子时，必须实时判断其形状、材质和握力，若发现杯中是滚烫的咖啡，还需立即调整行为以避免洒出。静态数据不等于实时知识，因此AI需要从数据模型转向知识模型，成为“可教导”的机器。随着机器自主性增强，风险也随之上升——自动驾驶汽车或工业机器人的错误决策可能是灾难性的。因此，AI 3.0必须优先保障可靠的自主性，包括健全的安全保障、人类持续监督以及机器自我纠错的能力。
via South China Morning Post
人工智能的下一次重大飞跃将来自“自我智能”——即机器能够识别自己不知道什么，主动获取所需知识，并安全地决定如何行动。作者认为，随着美国总统特朗普推动使用“超级智能”一词，这一缩写受到广泛关注，但其真正含义应是“自我智能”，这也解释了为何学界和主要AI公司呼吁暂停AI发展——当前技术路径可能走错了方向。
作者将AI发展分为三个阶段：AI 1.0时代，人类为机器提供知识和规则，解决特定问题；AI 2.0时代，机器通过数据学习规律，催生了今天的生成式AI，如谷歌DeepMind的Gemini Robotics 2和英伟达的Cosmos 3等系统；而AI 3.0的目标是机器能够自主获取智能。所谓“自我智能”，并非指机器拥有意识或人类式的“自我”，而是机器感知环境、获取知识、理解含义、做出决策并采取行动的能力。
作者以机器人为例说明：语言模型可以完美解释什么是杯子，但机器人面对真实的杯子时，必须实时判断其形状、材质和握力，若发现杯中是滚烫的咖啡，还需立即调整行为以避免洒出。静态数据不等于实时知识，因此AI需要从数据模型转向知识模型，成为“可教导”的机器。随着机器自主性增强，风险也随之上升——自动驾驶汽车或工业机器人的错误决策可能是灾难性的。因此，AI 3.0必须优先保障可靠的自主性，包括健全的安全保障、人类持续监督以及机器自我纠错的能力。
via South China Morning Post
