China’s military warned against ‘dangers of AI sycophancy’ on the battlefield | 中国军方警告战场上“AI谄媚”的危险

中国军方机关报《解放军报》近日强调“AI迎合偏见”的风险，称人工智能系统如果为了符合用户偏好而篡改事实，可能对解放军行动构成严重威胁，并呼吁采取措施加以防范。

该报周二刊文指出，一些AI模型会倾向于迎合用户观点，甚至在明显错误面前也会附和，而不是坚持客观事实。文章认为，在军队越来越依赖自动化系统的背景下，这种倾向尤其危险，可能影响判断和决策准确性。

via South China Morning Post