Japan’s Princess Kako falls victim to Grok AI’s ‘put her in a bikini’ deepfakes craze | 日本公主佳子成为Grok AI“穿比基尼”深度伪造热潮的受害者

近日，一些利用AI深度伪造技术生成的关于日本皇室成员的不雅图片在网络上流传，引发了广泛关注和担忧。这些图片由Grok等AI工具生成，内容包括将皇室成员皇佳子公主（皇后德仁的侄女）在新年聚会中的照片进行篡改，甚至制作出她穿比基尼、裸体或穿着挑逗性服装的虚假图片。特别是一张皇佳子公主穿蓝色裙子在阳台挥手的照片被篡改成比基尼照后，浏览量超过1500万，随后被删除。

这类利用AI生成的深度伪造内容引发了公众和官方的担忧，但日本皇室机构尚未就此发表正式声明。随着AI技术的普及和用户对其操作的便利性，类似的虚假内容可能会对个人隐私和社会秩序带来新的挑战。专家呼吁加强监管，防止虚假信息的扩散和滥用。

via SCMP Full Text Feed