Japan arrests man in first AI porn case involving deepfakes of celebrities | 日本逮捕男子涉首例名人深度伪造AI色情案

东京警方逮捕了一名涉嫌利用人工智能技术制作并销售女性名人虚假色情图片的男子，这是日本首次出现涉及AI生成色情内容的刑事案件。31岁的嫌疑人横井宏也（Hiroya Yokoi）来自日本秋田市，他承认为了赚取零用钱和偿还学生贷款，开始制作深度伪造图片。据警方透露，从去年十月至今年九月，横井通过销售约2万张涉及262名女性的色情图片，赚取了120万日元（约8,000美元）。

警方表示，横井通过在线文章和视频学习使用免费生成式AI软件，然后将名人照片输入程序生成虚假图片。他将这些图片上传到社交媒体平台，并向用户收取月费。付费用户甚至可以请求他生成特定名人和姿势的图片。横井在今年1月至6月期间，曾三次在网络上展示三位女演员的虚假色情图片，涉嫌违反散布淫秽物数字图像的法律，可能面临最高两年监禁或250万日元罚款的处罚。

via SCMP Full Text Feed