Without the public’s trust, AI is doomed to fail | 没有公众信任，人工智能注定失败
人工智能（AI）正日益影响人们的生活，从决定谁能获得工作面试、贷款到假释等重要事项。然而，这些系统的权威性并未经过公众投票或广泛认可，尽管它们的决策深刻影响着社会。各国政府已迅速采取措施，如欧盟通过了AI法案，美国发布了行政命令和联邦指导计划，英国召开了AI安全峰会，但这些努力尚未解决根本问题：公众是否接受AI系统所拥有的权威？没有公众的合法性支持，再精准的工具也难以获得信任和有效运作。
合法性是任何持久机构的基础，法院、立法机构和中央银行之所以能发挥作用，是因为多数公民认可其权力的行使方式。AI公司在言论监管、医疗、能源、交通和国家安全等领域拥有类似影响力，但公众几乎没有参与授权或设定界限。历史经验表明，忽视合法性会带来严重后果。例如，核能在1950年代被宣传为廉价且充足，但因事故和秘密开发导致公众信任崩溃，项目长期停滞；欧洲的转基因作物也因科学与公众共识脱节而遭遇持续抵制。
类似地，波音737 Max的悲剧揭示了缺乏透明度的软件引发两次坠机，造成346人死亡，尽管飞机恢复服役，但声誉损害难以修复。AI领域同样出现警示信号，2018年剑桥分析丑闻暴露了Facebook数据被滥用以影响选举，这不仅是技术问题，更违反了公众对同意权的基本期待。由此可见，建立和维护公众对AI系统的信任与合法性，是确保其长远发展的关键。
via SCMP Full Text Feed
人工智能（AI）正日益影响人们的生活，从决定谁能获得工作面试、贷款到假释等重要事项。然而，这些系统的权威性并未经过公众投票或广泛认可，尽管它们的决策深刻影响着社会。各国政府已迅速采取措施，如欧盟通过了AI法案，美国发布了行政命令和联邦指导计划，英国召开了AI安全峰会，但这些努力尚未解决根本问题：公众是否接受AI系统所拥有的权威？没有公众的合法性支持，再精准的工具也难以获得信任和有效运作。
合法性是任何持久机构的基础，法院、立法机构和中央银行之所以能发挥作用，是因为多数公民认可其权力的行使方式。AI公司在言论监管、医疗、能源、交通和国家安全等领域拥有类似影响力，但公众几乎没有参与授权或设定界限。历史经验表明，忽视合法性会带来严重后果。例如，核能在1950年代被宣传为廉价且充足，但因事故和秘密开发导致公众信任崩溃，项目长期停滞；欧洲的转基因作物也因科学与公众共识脱节而遭遇持续抵制。
类似地，波音737 Max的悲剧揭示了缺乏透明度的软件引发两次坠机，造成346人死亡，尽管飞机恢复服役，但声誉损害难以修复。AI领域同样出现警示信号，2018年剑桥分析丑闻暴露了Facebook数据被滥用以影响选举，这不仅是技术问题，更违反了公众对同意权的基本期待。由此可见，建立和维护公众对AI系统的信任与合法性，是确保其长远发展的关键。
via SCMP Full Text Feed
