社会服务机构使用人工智能时需设立保障措施

社会服务机构正越来越多地采用人工智能来管理涉及虐待儿童、虐待老人和亲密伴侣暴力的敏感案件。然而，专家警告称，这些强大的工具存在引入或放大对脆弱和弱势群体严重偏见的风险。

研究人员强调，在高风险的社会福利环境中部署自动化系统之前，迫切需要建立强有力的监管保障措施、透明度以及人工监督。