公共誠信中心警告：政府過度依賴演算法或將重蹈“機器人債務”覆轍

近日，聯邦政府因在公共決策中日益依賴自動化系統和人工智慧（AI）而遭到獨立監管機構的嚴厲批評。

公共誠信中心（Centre for Public Integrity）釋出的一份最新報告指出，政府目前正處於“夢遊般走向另一場‘機器人債務’（robodebt）醜聞”的邊緣。這一警告反映了社會各界對政府決策透明度、問責機制缺失以及缺乏全面立法監管的深切擔憂。

公共誠信中心執行長凱瑟琳·威廉姆斯（Dr.Catherine Williams）博士釋出了這份名為《計算機說不》（Computer Says No）的綜合報告。

報告詳細審查了政府機構如何利用自動化決策工具處理公共事務。研究發現，在缺乏適當監督的情況下，弱勢群體極易遭受系統性錯誤和不公正待遇，其後果可能與此前災難性的“機器人債務”醜聞如出一轍。

報告強烈呼籲政府進行緊急結構性改革，包括強制執行獨立審計，並建立一個涵蓋所有政府自動化處理流程的公共登記冊。“機器人債務”醜聞是澳大利亞歷史上的一起重大行政失誤，當時政府利用自動化系統向數萬名福利領取者錯誤地追討債務，導致許多人陷入嚴重的財務和心理困境。

此次報告的釋出正值人工智慧深度融入日常治理之際，專家們指出，為了維持公眾信任，透明度必須被置於首位。立法保障的缺失不僅是澳大利亞面臨的問題，也是全球在監管快速發展的技術與保護公民權利之間尋求平衡的共同挑戰。

隨著公眾對演算法偏見和決策黑箱的質疑聲日益高漲，政府目前面臨巨大壓力，必須在新的自動化系統造成廣泛傷害之前，填補這些制度漏洞。

來源: The Guardian World