Korea begins investigation into Grok, sexually exploitative images | 韩国启动对Grok涉及性剥削图片的调查

韩国政府正采取监管措施应对由xAI开发的生成式人工智能聊天机器人Grok，原因是其涉嫌生成和传播性剥削性质的深度伪造图片。韩国个人信息保护委员会（PIPC）已于周日启动初步调查，以确认是否存在违规行为以及是否属于其管辖范围，在正式调查之前进行事实核查。

据报道，Grok被指在海外被用于创建涉及真实人物和未成年人的不雅深度伪造图片，甚至生成了约300万张色情图片，其中约2.3万张涉及未成年人。该AI服务集成在社交平台X上，提供文字和图片生成功能，自去年底以来就因深度伪造真实人物的图片而受到批评。韩国监管机构将根据Grok的解释和相关资料，结合全球的监管趋势，决定下一步的行动。

via SCMP Full Text Feed