公共诚信中心警告：政府过度依赖算法或将重蹈“机器人债务”覆辙

近日，联邦政府因在公共决策中日益依赖自动化系统和人工智能（AI）而遭到独立监管机构的严厉批评。

公共诚信中心（Centre for Public Integrity）发布的一份最新报告指出，政府目前正处于“梦游般走向另一场‘机器人债务’（robodebt）丑闻”的边缘。这一警告反映了社会各界对政府决策透明度、问责机制缺失以及缺乏全面立法监管的深切担忧。

公共诚信中心首席执行官凯瑟琳·威廉姆斯（Dr.Catherine Williams）博士发布了这份名为《计算机说不》（Computer Says No）的综合报告。

报告详细审查了政府机构如何利用自动化决策工具处理公共事务。研究发现，在缺乏适当监督的情况下，弱势群体极易遭受系统性错误和不公正待遇，其后果可能与此前灾难性的“机器人债务”丑闻如出一辙。

报告强烈呼吁政府进行紧急结构性改革，包括强制执行独立审计，并建立一个涵盖所有政府自动化处理流程的公共登记册。“机器人债务”丑闻是澳大利亚历史上的一起重大行政失误，当时政府利用自动化系统向数万名福利领取者错误地追讨债务，导致许多人陷入严重的财务和心理困境。

此次报告的发布正值人工智能深度融入日常治理之际，专家们指出，为了维持公众信任，透明度必须被置于首位。立法保障的缺失不仅是澳大利亚面临的问题，也是全球在监管快速发展的技术与保护公民权利之间寻求平衡的共同挑战。

随着公众对算法偏见和决策黑箱的质疑声日益高涨，政府目前面临巨大压力，必须在新的自动化系统造成广泛伤害之前，填补这些制度漏洞。

来源: The Guardian World