China’s J-36 fighter jet designers report danger of military AI hallucinations | 中国歼-36战斗机设计师警告军用人工智能“幻觉”风险
中国航空工业成都飞机设计研究所工程师张显哲在6月20日发表论文提醒，人工智能虽能快速提取关键数据、分析武器性能，但在航空装备研究中仍可能“编造”飞机规格，不能直接作为可靠依据。
文章提到，生成式大模型在情报分析等工作中效率很高，过去需要大量时间和人力才能完成的任务，如今可以更快处理。不过，张显哲强调，这类模型在涉及复杂技术参数时，可能给出看似合理、实际上并不准确的结果，因此需要人工核验。
该论文观点来自中国航空工业内部研究人员的提醒，背景是人工智能正被更多用于军事和航空领域。文章核心意思是，AI可以提升信息整理和分析效率，但在关键装备研发和性能判断上，仍必须保持谨慎，避免把模型输出当作最终结论。
via South China Morning Post
中国航空工业成都飞机设计研究所工程师张显哲在6月20日发表论文提醒，人工智能虽能快速提取关键数据、分析武器性能，但在航空装备研究中仍可能“编造”飞机规格，不能直接作为可靠依据。
文章提到，生成式大模型在情报分析等工作中效率很高，过去需要大量时间和人力才能完成的任务，如今可以更快处理。不过，张显哲强调，这类模型在涉及复杂技术参数时，可能给出看似合理、实际上并不准确的结果，因此需要人工核验。
该论文观点来自中国航空工业内部研究人员的提醒，背景是人工智能正被更多用于军事和航空领域。文章核心意思是，AI可以提升信息整理和分析效率，但在关键装备研发和性能判断上，仍必须保持谨慎，避免把模型输出当作最终结论。
via South China Morning Post
