DeepSeek的AI进军医院“太快太仓促”，中国医学研究人员警告

中国研究团队对中国医院迅速采用人工智能初创公司DeepSeek的模型提出质疑，警告称这会带来临床安全和隐私风险。截至3月初，中国至少有300家医院开始使用DeepSeek的大型语言模型（LLM）进行临床诊断和医疗决策支持。研究人员在医学期刊JAMA上发表的论文中指出，尽管DeepSeek具有强大的推理能力，但其倾向于生成“看似合理但事实上不正确的输出”，这可能导致“巨大的临床风险”。

该研究团队强调，医护人员可能会过度依赖或不加批判地使用DeepSeek的输出结果，从而导致诊断错误或治疗偏差。此外，即使医院通常选择私有化部署DeepSeek模型以降低安全和隐私风险，但这也将安全责任转移到各个医疗机构，而许多医疗机构缺乏全面的网络安全基础设施。因此，研究人员呼吁对DeepSeek在医疗领域的应用保持谨慎态度。

via SCMP Full Text Feed