An AI apocalypse? Hong Kong's real challenge is much less dramatic | AI末日将至？香港面临的真正挑战远没有那么戏剧化

人工智能正从新奇玩具演变为社会必须警惕的风险，香港在拥抱AI浪潮的同时，亟需正视其带来的欺诈、错误信息与责任归属等问题。文章指出，全球正以惊人速度投入AI竞赛，香港金融管理局近日就一家大银行将AI中心设在新加坡并当地招聘逾百名AI专才提出质询，反映出本港的竞争焦虑。但吸引投资与防范风险是两回事，后者往往在匆忙中被忽略。

文章列举了具体风险：香港警方上月破获一个犯罪集团，利用身份证图像、修图软件和AI工具伪造文件申请网上账户，部分申请得以蒙混过关；同时，有无律师代表的诉讼人引用生成式AI编造的不存在的法例条文，虽无恶意，却可能误导缺乏法律知识的人。文章强调，真正的危险不在于机器出错，而在于使用者不负责任地使用工具——所谓“人类监督”，若监督者无法真正质疑系统的结论，便形同虚设。

香港政府正积极应对，律政司正牵头跨部门检讨法例以支持AI的广泛应用，政策也涵盖AI犯罪、法律责任及AI代理的管理。但文章提醒，法律之外还需让公众具备理解能力。真正的挑战并非戏剧性的“AI末日”，而是防止人们把判断权不知不觉地移交给那些答案“易于接受却难以质疑”的系统。

via South China Morning Post