UK regulator launches probe into Musk’s X over Grok’s ‘disgusting’ sexualised AI imagery | 英国监管机构对马斯克的X平台展开调查，涉Grok发布“令人厌恶”的性化AI图像

英国媒体监管机构Ofcom于周一对Elon Musk旗下的社交平台X展开调查，原因是其AI聊天机器人Grok被用于生成可能违反英国法律的性暗示深度伪造内容。监管机构表示，存在关于Grok账号被用来制作和分享未穿衣服的图片，可能构成性图片滥用或色情内容，以及涉及儿童的性化图片，可能构成儿童性虐待材料的严重担忧。

此次调查是在英国首相基尔·斯塔默对Grok生成的图片表示谴责后发起的。斯塔默称这些图片“令人作呕”且“非法”，并强调政府支持Ofcom采取行动。英国法律禁止制作或传播非自愿的私密图片或儿童性虐待内容，包括由AI生成的性内容。技术平台还必须防止英国用户接触此类非法内容，一旦发现应立即删除。

事件中，一位名叫朱莉·尤卡里的里约热内卢音乐人，曾在新年前夕发布一张穿红裙子的照片，后来发现有人利用Grok将她的照片数字化去除衣物，导致她的半裸图片在平台上传播。此类事件引发公众关注，促使监管机构对平台的内容管理展开调查。

via SCMP Full Text Feed