AI poisoning: fake fitness tracker fools chatbots in China, sparking outcry | AI中毒：假健身追踪器欺骗中国聊天机器人，引发强烈抗议

中国中央电视台（CCTV）的暗访调查揭露了一个新兴行业中的争议性做法：通过虚假信息对人工智能模型进行“投毒”。这一报告聚焦于生成引擎优化（GEO）技术——即人工智能领域的搜索引擎优化（SEO）——如何被滥用来污染和操纵AI聊天机器人，引发了社会的高度关注。

调查显示，GEO技术允许不良行为者向AI模型注入伪造信息，从而影响其输出结果。这一做法不仅暴露了AI行业在早期发展中的监管漏洞，还激起了业内专家和观察者的广泛担忧与公开辩论，公众对AI技术的信任度可能因此受到冲击。

via South China Morning Post