Relying on AI carries risks, cybersecurity expert warns amid China’s DeepSeek craze | 依赖人工智能风险犹存，网络安全专家警示“中国深势科技热”

网络安全专家齐向东警告称，过度依赖人工智能进行决策可能构成安全风险，使用户容易受到黑客和其他恶意行为者的攻击。他指出，随着人工智能在各行业深入融合，大型模型将变得越来越强大，用户可能会过度依赖人工智能辅助决策和判断。

齐向东表示，从外部威胁的角度来看，黑客可以利用漏洞或进行数据“投毒”来操纵模型的决策，从而以大型模型的名义实施恶意行为。从内部运营的角度来看，如果相关工作人员在更新知识库时引入错误信息，可能会污染模型的学习环境，导致不正确的输出。中国人工智能初创公司DeepSeek推出了一款与ChatGPT等美国竞争对手相媲美的聊天机器人，引发了中国公众和政府机构对人工智能的狂热追捧。

via SCMP Full Text Feed