Hong Kong must lead in reimagining safety for the AI age | 香港必须引领人工智能时代的安全重塑

2023年1月，美国亚利桑那州居民Jennifer DeStefano接到一通诈骗电话，对方利用AI模仿她女儿的声音，声称女儿被绑架并索要赎金。DeStefano女士险些上当，幸好在转账前被另一位家长提醒，最终确认女儿安全无恙。 这起事件表明，AI语音克隆技术已经发展到足以制造逼真诈骗的程度，并对个人和社会安全构成严重威胁。

香港作为高度数码化的城市，同样面临着AI诈骗日益增长的风险。仅2024年前11个月，香港居民因诈骗损失高达85.2亿港元。AI技术通过克隆声音和面部，大幅降低了诈骗成本，使得诈骗活动能够迅速扩大规模。香港电台主持人梁志健也曾接到冒充女演员吴君如的AI视频诈骗电话，尽管他成功识破，但许多缺乏技术知识的人，特别是老年人和年轻人，可能难以辨别真伪。

via SCMP Full Text Feed