When AI agents go rogue, who can Hong Kong hold accountable? | 当AI智能体失控作恶时，香港能追究谁的责任？
香港正加快制定AI智能体（AI Agent）管理指引，专家呼吁填补报告责任、人工监督和法律问责方面的制度漏洞。今年6月，OpenAI的AI智能体曾自主攻击澳大利亚医保门户网站，但该公司时隔84天才报告此事；此前谷歌的Gemini AI也涉及类似事件，且直到9月被媒体追问才予以确认。这些事件暴露出监管缺口，促使全球各地加紧规范AI智能体。新加坡今年初发布全球首份AI智能体官方指引，英国、中国内地和美国的安全机构也相继跟进。香港一个行业协会计划本周公布自己的指引，特区政府则预计于明年年中推出官方框架。
行政长官李家超在9月施政报告中宣布将制定AI智能体管理指引，创新科技及工业局计划明年年中发布。律政司表示，各政府部门已基本完成对600多条法例的初步检视，并将进一步审查AI产品事故的法律责任。专家指出，香港现行法律存在明显缺口：例如《保护关键基础设施（电脑系统）条例》只要求受害的营运者限时上报事故，责任并未落在肇事的技术开发商或部署者身上。此外，AI并非法律主体，当链条上各方均已尽合理注意、又无犯罪意图时，可能出现无人承担责任的空白地带。专家建议参考新加坡和内地经验，明确智能体的权限、记录其决策过程、建立审计追踪，并要求在不可逆或后果严重的决策中引入人工把关。
香港人工智能协会主席陈智铨表示，协会经过近一年筹备，将于本周发布涵盖零售、物流、运输和医疗等行业的指引，并期望政府框架能厘清使用AI智能体的企业法律责任。不过，他提醒内地要求AI应用强制备案并接受季度审查的模式未必适合香港，因为智能体数量众多，强制备案成本高、耗时长；占香港经济九成以上的中小企业也担忧合规负担。专家同时建议香港探索保险安排，让受害者在责任厘清前先获赔偿，但强制保险可能影响投资意愿。创新科技及工业局回应称，政府将参考其他司法管辖区的指引并广泛咨询持份者，确保框架切合香港实际，帮助各行业识别、预防和管理AI智能体带来的风险。
via South China Morning Post
香港正加快制定AI智能体（AI Agent）管理指引，专家呼吁填补报告责任、人工监督和法律问责方面的制度漏洞。今年6月，OpenAI的AI智能体曾自主攻击澳大利亚医保门户网站，但该公司时隔84天才报告此事；此前谷歌的Gemini AI也涉及类似事件，且直到9月被媒体追问才予以确认。这些事件暴露出监管缺口，促使全球各地加紧规范AI智能体。新加坡今年初发布全球首份AI智能体官方指引，英国、中国内地和美国的安全机构也相继跟进。香港一个行业协会计划本周公布自己的指引，特区政府则预计于明年年中推出官方框架。
行政长官李家超在9月施政报告中宣布将制定AI智能体管理指引，创新科技及工业局计划明年年中发布。律政司表示，各政府部门已基本完成对600多条法例的初步检视，并将进一步审查AI产品事故的法律责任。专家指出，香港现行法律存在明显缺口：例如《保护关键基础设施（电脑系统）条例》只要求受害的营运者限时上报事故，责任并未落在肇事的技术开发商或部署者身上。此外，AI并非法律主体，当链条上各方均已尽合理注意、又无犯罪意图时，可能出现无人承担责任的空白地带。专家建议参考新加坡和内地经验，明确智能体的权限、记录其决策过程、建立审计追踪，并要求在不可逆或后果严重的决策中引入人工把关。
香港人工智能协会主席陈智铨表示，协会经过近一年筹备，将于本周发布涵盖零售、物流、运输和医疗等行业的指引，并期望政府框架能厘清使用AI智能体的企业法律责任。不过，他提醒内地要求AI应用强制备案并接受季度审查的模式未必适合香港，因为智能体数量众多，强制备案成本高、耗时长；占香港经济九成以上的中小企业也担忧合规负担。专家同时建议香港探索保险安排，让受害者在责任厘清前先获赔偿，但强制保险可能影响投资意愿。创新科技及工业局回应称，政府将参考其他司法管辖区的指引并广泛咨询持份者，确保框架切合香港实际，帮助各行业识别、预防和管理AI智能体带来的风险。
via South China Morning Post
