As agentic AI seeps into finance, concerns grow over new risks and blind spots | 智能体AI渗入金融领域,新风险与盲区引发担忧
随着人工智能在全球金融领域快速普及,监管机构和业界领袖正聚焦于人类问责问题。香港金融研究院(HKIMR)发布的最新报告显示,近90%的受访机构已采用或计划采用生成式AI,其中69%已采用或计划采用能够自主执行多步骤任务的代理式AI(agentic AI)。周一,美国多家大型银行因软件故障导致服务中断,美联储理事也警告自主性日益增强的AI系统可能带来的风险,监管者与业界人士齐聚香港,探讨如何监管这项技术的迅速扩张。
在彭博全球监管论坛上,来自世界各地的高层监管者,包括香港证监会行政总裁梁凤仪,讨论了从市场波动到网络安全风险等一系列挑战。渣打银行融资及证券服务数据与数码主管宋嘉乐呼吁加强跨行业和国际合作,并警告这是一场“军备竞赛”,因为不法分子可能获取同样的甚至更先进的AI模型,却不受类似的监管约束。香港财政司司长陈茂波则强调,金融机构对其AI系统的行为负有最终责任,因为AI代理“没有牌照可失去,也没有声誉需要保护”。
美联储理事迈克尔·巴尔在米兰的一个会议上警告,代理式AI可能在压力时期加速存款外流,从而放大金融不稳定性,甚至超出传统流动性管理工具和监管响应的时间框架。香港金融研究院院长何定表示,在代理式AI的背景下,监管必须与技术同步演进,并强调“人类主导”的重要性,即由人来设定AI代理自主权的界限和护栏。报告同时指出,AI采用程度并不均衡,小型企业中有50%表示暂无采用计划。
via South China Morning Post
随着人工智能在全球金融领域快速普及,监管机构和业界领袖正聚焦于人类问责问题。香港金融研究院(HKIMR)发布的最新报告显示,近90%的受访机构已采用或计划采用生成式AI,其中69%已采用或计划采用能够自主执行多步骤任务的代理式AI(agentic AI)。周一,美国多家大型银行因软件故障导致服务中断,美联储理事也警告自主性日益增强的AI系统可能带来的风险,监管者与业界人士齐聚香港,探讨如何监管这项技术的迅速扩张。
在彭博全球监管论坛上,来自世界各地的高层监管者,包括香港证监会行政总裁梁凤仪,讨论了从市场波动到网络安全风险等一系列挑战。渣打银行融资及证券服务数据与数码主管宋嘉乐呼吁加强跨行业和国际合作,并警告这是一场“军备竞赛”,因为不法分子可能获取同样的甚至更先进的AI模型,却不受类似的监管约束。香港财政司司长陈茂波则强调,金融机构对其AI系统的行为负有最终责任,因为AI代理“没有牌照可失去,也没有声誉需要保护”。
美联储理事迈克尔·巴尔在米兰的一个会议上警告,代理式AI可能在压力时期加速存款外流,从而放大金融不稳定性,甚至超出传统流动性管理工具和监管响应的时间框架。香港金融研究院院长何定表示,在代理式AI的背景下,监管必须与技术同步演进,并强调“人类主导”的重要性,即由人来设定AI代理自主权的界限和护栏。报告同时指出,AI采用程度并不均衡,小型企业中有50%表示暂无采用计划。
via South China Morning Post