Le gouvernement fédéral critiqué pour son recours accru aux systèmes automatisés et à l'IA
Le gouvernement fédéral fait face à de sévères critiques de la part d’observateurs indépendants concernant sa dépendance croissante à l’égard des systèmes automatisés et de l’intelligence artificielle.
Selon un récent rapport publié par le Centre pour l’intégrité publique, l’administration est en train de « sombrer inconsciemment dans un autre scandale de type robodebt ».
Cet avertissement intervient dans un contexte de préoccupations croissantes concernant la transparence, la responsabilité et l’absence de législation globale régissant l’utilisation des algorithmes dans la prise de décision du secteur public.
Le Dr Catherine Williams, directrice générale du Centre pour l’intégrité publique, a lancé le rapport exhaustif intitulé « Computer Says No » (L’ordinateur dit non), qui examine de près la manière dont les organismes gouvernementaux utilisent les outils de prise de décision automatisés.
Les conclusions suggèrent que, sans une surveillance adéquate, les citoyens vulnérables pourraient faire face à des erreurs systémiques et à des résultats inéquitables similaires au fiasco désastreux du robodebt.
Le rapport plaide fermement en faveur de réformes structurelles urgentes, notamment des audits indépendants obligatoires et la création d’un registre public pour tous les processus gouvernementaux automatisés.
Alors que l’intelligence artificielle continue de s’intégrer dans la gouvernance quotidienne, les experts affirment que la transparence doit rester une priorité absolue pour maintenir la confiance du public.
L’appel à des garanties législatives met en lumière le défi mondial plus large que représente la régulation d’une technologie en évolution rapide tout en protégeant les droits des citoyens.
Le gouvernement fait désormais face à une pression croissante pour remédier à ces vulnérabilités avant que de nouveaux systèmes automatisés ne causent des préjudices généralisés à la population.
Source: The Guardian World