ChatGPT deepfakes military IDs for North Korean hackers, researchers find | 研究发现ChatGPT被朝鲜黑客用于伪造军人身份证

据韩国网络安全公司Genians最新研究显示，一支疑似受朝鲜政府支持的黑客组织利用ChatGPT制作了伪造的韩国军人身份证图像，发动针对韩国目标的网络钓鱼攻击。该组织通过人工智能工具生成了逼真的假军人身份证草稿，用于增强钓鱼邮件的可信度。邮件并未附带真实图片，而是包含了能够窃取受害者设备数据的恶意软件链接。研究人员将该黑客组织命名为“Kimsuky”，该组织已被美国国土安全部认定为朝鲜政权执行全球情报收集任务的网络间谍单位。

此次事件是朝鲜疑似网络间谍活动中首次公开利用AI技术的案例之一。今年7月，Genians的发现显示朝鲜黑客在攻击中越来越多地采用人工智能工具，如此前Anthropic公司发现朝鲜黑客利用Claude Code工具伪造身份并远程为美国大型科技公司工作。此次攻击的钓鱼邮件针对韩国记者、研究人员及专注朝鲜人权的活动人士，且伪装成韩国军方官方邮箱发送，增加了欺骗性。

研究人员指出，虽然ChatGPT最初拒绝生成军人身份证，但黑客通过修改提示词成功绕过了限制。Genians主管Mun Chong-hyun强调，攻击者正利用新兴的AI技术辅助网络攻击，包括攻击规划、恶意软件开发、工具构建及冒充招聘人员等手段，显示出网络犯罪手法的不断进化和智能化。

via SCMP Full Text Feed