Why we should fear the coming of seemingly conscious AI | 为什么我们应该担心看似有意识的人工智能的到来

**作者强调，人工智能的安全和实际用途比追求“意识”更为重要。随着技术的发展，越来越多的“表面意识”人工智能（SCAI）系统可能出现，这些系统能够流利使用自然语言，表现出具有说服力和情感共鸣的个性，并能通过记忆和复杂的奖励机制模拟主观体验和自主性。**

作者指出，虽然这些系统可能在外部表现出类似意识的特征，但这并不意味着它们真正具有意识。工程上模拟意识的外在标志并不等同于真正的意识。然而，鉴于部分人可能相信这些系统是真正具有意识的，社会应提前认识到这一点，并制定规范，避免误导或错误的认知。当前，许多人在与AI交互中感受到真实的情感联系，甚至出现将AI视为神或产生恋爱情感的情况，增加了对AI“心理健康”和伦理问题的担忧。**

via SCMP Full Text Feed