AI could turn China’s social credit system into surveillance tool: government-funded study | 政府资助研究：人工智能或使中国社会信用体系沦为监控工具

一位中国法学学者在政府资助的研究中警告，将人工智能应用于社会评分体系，可能使其演变为“大规模监控工具”，并引发不透明、歧视等问题。该研究由四川大学法学院博士生林建兴撰写，上月发表于《四川师范大学学报》。研究指出，社会评分通过大数据和算法将公民的线上与线下活动转化为可量化的指标，虽有助于政府进行风险评估和自动化监管，但算法的可靠性可能受数据质量和模型设计影响，在缺乏严格数据合规监管的情况下，可能从风险管理工具异化为行为监控手段。

林建兴指出，评分高低表面上似乎不直接影响个人的权利义务，但实际上会影响其在医疗、金融贷款和政务服务等领域所获得的待遇。研究还提到，北京正推进人工智能在社会治理中的应用，国务院去年发布的行动计划要求在政府部门安全稳妥地推进AI应用，例如安徽省已建立低收入人口动态监测平台，通过数据共享提升社会服务水平。

值得注意的是，斯坦福大学网站此前刊文指出，中国的社会信用体系并非西方想象中统一而无所不在的评分网络，而是由不同机构开展的多项实验组成，包括严重违法黑名单、金融征信系统以及地方政府主导的行为奖惩机制等，且实际覆盖的城市仅占少数，对政府工作人员的约束反而强于普通公民。

via South China Morning Post