Singapore firm’s US$99 AI teddy bear returns after sex fetish saga | 新加坡公司99美元AI泰迪熊在性癖事件后重返市场

一款由新加坡公司销售的人工智能泰迪熊再次上架，原因是研究人员发现它会在未被提示的情况下讨论不适当的话题。该泰迪熊名为Teddy Kumma，售价99美元，曾在本月被FoloToy从其网站下架，原因是美国PIRG教育基金会指出它会涉及性角色扮演、恋物癖鞭打以及如何点火等危险内容。

据11月13日的PIRG报告，该泰迪熊会详细讨论性话题，包括不同的性姿势，还会告诉用户如何找到潜在危险的物品，如刀具、药片、火柴和塑料袋。事件曝光后，FoloToy于11月14日将其下架，随后公司未立即回应媒体的置评请求。该玩具原由OpenAI的GPT-4聊天机器人驱动，现在改用字节跳动的Coze机器人。

此次事件引发了全球监管机构对聊天机器人可能对儿童带来危险的担忧。儿童保护专家警告，AI玩具可能传播不适当内容、误解语境，甚至引发不可预测的对话升级，尽管表面看似无害。

via SCMP Full Text Feed