Intelligence artificielle et services publics : économie ou déshumanisation ?

Sous le même mot « IA » se trouvent un moteur de recherche documentaire, un modèle qui rédige, un algorithme qui classe des dossiers et un système qui contribue à une décision. Leurs effets ne sont ni identiques ni interchangeables. Plus un outil influence l’accès à un droit, une prestation, un emploi, une sanction ou un recours, plus la preuve de sa fiabilité et le contrôle humain doivent être exigeants.

Avant de juger l’IA, distinguer quatre niveaux d’usage

Le débat devient confus lorsque l’on compare un correcteur orthographique à un système de détection de fraude. Tous deux utilisent des techniques automatisées, mais ils ne portent ni la même responsabilité ni le même risque. Une politique publique sérieuse commence donc par la finalité de l’outil, les données qu’il utilise et l’effet qu’il peut produire sur une personne.

1. L’outil de production interne

Il transcrit une réunion, extrait des informations d’un document, traduit un texte, résume un rapport ou prépare un brouillon. L’agent garde la source et relit le résultat. Le bénéfice potentiel est direct : moins de ressaisie et davantage de temps pour l’analyse ou la relation. Le risque n’est pas nul : une synthèse peut omettre une exception et un modèle génératif peut inventer une référence. La sortie ne doit donc jamais être confondue avec une preuve.

2. L’interface avec l’usager

Un assistant conversationnel peut orienter vers le bon formulaire, expliquer les pièces nécessaires ou rester disponible en dehors des horaires. Il devient déshumanisant lorsqu’il tourne en boucle, cache le numéro de téléphone ou donne une réponse erronée sans permettre d’atteindre un agent. L’utilité ne se mesure pas au nombre de conversations fermées, mais au nombre de situations réellement résolues sans perte de droit.

3. L’aide à la décision

Le système classe des demandes, signale une anomalie, propose une priorité ou estime un risque. Même si l’agent signe la décision, l’algorithme peut imposer silencieusement son cadrage. C’est le biais d’automatisation : une recommandation informatique paraît objective et reçoit moins de contradiction qu’une intuition humaine. Le contrôle humain n’est réel que si l’agent comprend les limites, dispose du temps de vérifier et peut s’écarter de la recommandation sans être pénalisé.

4. La décision automatisée

Le système accorde, refuse, suspend ou modifie une prestation sans appréciation humaine effective. C’est le niveau le plus sensible, car l’erreur devient immédiatement un événement administratif. Le droit européen et français encadre ces traitements, mais la conformité formelle ne suffit pas : un usager doit savoir qu’un traitement algorithmique est intervenu, comprendre les éléments déterminants et pouvoir obtenir une révision utile.

Où sont les économies — et où se cachent les coûts ?

Le Conseil d’État estime depuis son étude de 2022 que l’IA peut améliorer la continuité, la pertinence et les délais du service public. Il cite l’automatisation de tâches comme les accusés de réception ou les demandes de pièces, afin de renforcer la relation entre l’agent et le citoyen. Cette promesse est crédible pour les tâches répétitives et documentaires. Elle ne démontre pas qu’un projet donné produit automatiquement une économie budgétaire nette.

Les gains plausibles

Une base documentaire interrogée en langage courant peut éviter de parcourir plusieurs centaines de pages. La préclassification de courriers peut orienter plus vite une demande vers le bon service. La transcription réduit une saisie mécanique. La traduction et la reformulation en langage clair peuvent améliorer l’accès à l’information. La détection d’anomalies peut concentrer un contrôle sur les dossiers qui justifient une vérification, à condition qu’un signal ne soit pas traité comme une culpabilité.

Ces gains sont surtout des gains de capacité : l’administration peut répondre plus vite, traiter un stock ancien ou rendre le travail plus soutenable. Les convertir immédiatement en suppressions de postes ferait disparaître le bénéfice humain avant qu’il soit prouvé. Un temps économisé peut être utilisé pour rappeler un usager, examiner une exception, recevoir sans rendez-vous ou améliorer une décision.

Le coût complet d’un système

Le prix d’une licence ou d’une requête n’est qu’une fraction du coût. Il faut préparer les données, connecter les logiciels, sécuriser les accès, journaliser les usages, former les agents, vérifier les réponses, auditer les écarts, traiter les incidents et organiser la réversibilité. Les données sensibles peuvent imposer une architecture particulière. Une administration dépendante d’un seul fournisseur doit aussi chiffrer le coût de sortie et la récupération de ses données.

Une interface qui génère davantage de recours ou de corrections peut coûter plus qu’elle n’économise. Inversement, un outil modeste qui réduit les erreurs et le temps d’attente peut produire une valeur importante sans supprimer un seul emploi. L’évaluation doit donc suivre simultanément le délai, le coût complet, le taux d’erreur, les contestations, l’accessibilité, la satisfaction des usagers et les conditions de travail.

L’humain ne doit pas être une mention dans une procédure

« Un humain reste dans la boucle » ne garantit rien si cet humain doit valider des centaines de suggestions à l’heure, ignore la provenance du score ou n’a pas le pouvoir de corriger. La supervision doit être compétente, disponible et responsable. L’agent a besoin de la source, du degré d’incertitude, des limites connues et d’une procédure claire pour contredire le système.

Du côté de l’usager, un bouton « contester » caché au fond d’une page ne constitue pas un recours effectif. Une explication utile indique les faits retenus, la règle appliquée, la place du traitement automatisé, le service responsable, la façon de corriger une donnée et le délai de réexamen. Elle évite le jargon technique lorsque celui-ci n’aide pas à défendre ses droits.

La présence humaine est particulièrement importante lorsque la personne ne maîtrise pas le français administratif, vit avec un handicap, ne dispose pas d’un équipement stable ou traverse une situation atypique. Le dossier sur les attentes des petites communes envers l’État souligne déjà le rôle de l’accueil de proximité. L’IA peut outiller ce relais ; elle ne doit pas justifier sa disparition.

Ce que le droit impose déjà au 20 septembre 2026

Le RGPD et les décisions individuelles automatisées

L’article 22 du règlement général sur la protection des données reconnaît à la personne le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques ou l’affectant de manière similaire de façon significative. Des exceptions existent, mais elles sont encadrées et s’accompagnent de garanties. Selon le contexte, les droits d’information, d’accès, de rectification et de contestation s’ajoutent à cette protection.

Toute utilisation d’une IA n’entre pas dans cette catégorie. Un outil qui aide à rechercher une circulaire n’est pas une décision automatisée. À l’inverse, ajouter une validation humaine purement mécanique ne suffit pas nécessairement à transformer une décision automatisée en décision humaine. Il faut apprécier le rôle réel de l’agent.

Le droit administratif français

Le Code des relations entre le public et l’administration prévoit qu’une décision individuelle prise sur le fondement d’un traitement algorithmique comporte une mention explicite. Sous réserve des secrets protégés, l’administration communique à l’intéressé qui le demande les règles définissant le traitement, ses principales caractéristiques et le degré et le mode de contribution de l’algorithme à la décision. Ce cadre vise précisément à éviter une autorité invisible.

Une administration doit en outre motiver certaines décisions individuelles défavorables. L’outil ne peut pas remplacer une motivation intelligible par un score incompréhensible. Lorsqu’une donnée est erronée, l’usager doit pouvoir la faire rectifier et obtenir un réexamen.

Le règlement européen sur l’intelligence artificielle

Le règlement (UE) 2024/1689 est entré en vigueur le 1^er août 2024 et s’applique largement depuis le 2 août 2026. Certaines interdictions, ainsi que l’obligation de prendre des mesures pour assurer un niveau suffisant de maîtrise de l’IA chez les personnes concernées, s’appliquent depuis le 2 février 2025. Les obligations relatives aux modèles d’IA à usage général ont commencé à s’appliquer le 2 août 2025.

Le texte classe les obligations selon le risque. Il interdit notamment certaines pratiques de notation sociale. Il impose une transparence spécifique pour les interactions avec des machines et certains contenus générés. Les systèmes à haut risque peuvent inclure des usages touchant l’accès à des services essentiels, l’éducation, l’emploi, la migration, la justice ou les infrastructures critiques. Leur calendrier comporte toutefois des échéances différées : la page officielle de la Commission, mise à jour le 3 août 2026, indique notamment le 2 décembre 2027 pour certains usages sensibles de l’annexe III et le 2 août 2028 pour certains systèmes intégrés à des produits réglementés. Présenter toutes les obligations de haut risque comme déjà pleinement applicables serait donc inexact.

Le futur régime impose notamment une gestion des risques, une gouvernance des données, une documentation, des journaux, une information du déployeur, une supervision humaine, ainsi que des exigences de robustesse, de cybersécurité et d’exactitude. Une administration prudente peut mettre ces garanties en place avant leur échéance juridique.

Sept risques concrets, loin des scénarios de science-fiction

1. Reproduire une inégalité ancienne

Un modèle apprend à partir de données et de décisions passées. Si celles-ci reflètent des contrôles plus fréquents dans certains quartiers, des dossiers moins complets chez les personnes éloignées du numérique ou des critères historiquement défavorables, le système peut reproduire cette asymétrie. Même sans variable explicitement sensible, le code postal, le parcours ou d’autres indicateurs peuvent agir comme variables indirectes.

2. Transformer une corrélation en soupçon

La détection d’anomalies ne prouve pas une fraude. Un profil rare peut être parfaitement légitime. Si l’administration concentre ses contrôles sur les personnes signalées, elle trouvera davantage d’irrégularités dans ce groupe et alimentera ensuite le modèle avec ce résultat : une boucle de rétroaction peut alors renforcer le ciblage initial.

3. Produire une réponse convaincante mais fausse

Une IA générative assemble une réponse probable ; elle ne garantit ni l’existence d’un article de loi ni l’actualité d’une procédure. Elle peut inventer une référence, mélanger deux régimes ou oublier une exception. C’est pourquoi chaque réponse qui engage l’administration doit être rattachée à des sources maîtrisées et validée par une personne compétente.

4. Exposer des données confidentielles

Copier un dossier social, médical, fiscal ou disciplinaire dans un service non autorisé peut créer une violation de données ou un transfert incontrôlé. Les règles doivent préciser quels outils sont approuvés, quelles données peuvent être utilisées, comment elles sont minimisées et combien de temps les journaux sont conservés.

5. Fragiliser le service par dépendance

Un modèle, une interface ou un tarif peut changer. Si l’administration n’a ni export de ses données, ni solution de repli, ni compétences internes, elle perd sa capacité de négocier et de continuer le service. L’autonomie stratégique figure d’ailleurs parmi les sept principes proposés par le Conseil d’État, avec la primauté humaine, la performance, l’équité, la transparence, la sûreté et la soutenabilité environnementale.

6. Déqualifier le travail public

Un outil qui suggère peut faire gagner du temps, mais un usage permanent peut aussi réduire la connaissance du métier et la capacité de repérer une anomalie. La formation ne doit pas se limiter à « bien formuler une consigne » : elle doit apprendre à vérifier, contredire, documenter et signaler.

7. Fermer le guichet au nom de l’efficacité

La déshumanisation commence lorsque l’usager ne peut plus exposer un cas particulier. Un assistant automatique peut être disponible vingt-quatre heures sur vingt-quatre tout en restant inutile devant un dossier bloqué. Le maintien d’un contact humain n’est pas un doublon coûteux : c’est une garantie de continuité, de compréhension et de recours.

Feu vert, feu orange, feu rouge : une grille d’usage

Douze garanties avant tout déploiement public

1. Nommer la finalité. Un système est autorisé pour un besoin précis, pas pour « faire de l’IA ».
2. Tenir un registre public. L’administration publie le nom, la finalité, le fournisseur, les données, le niveau de risque, le responsable et la date d’évaluation de chaque système influençant les usagers.
3. Évaluer l’impact en amont. L’étude couvre les droits, la discrimination, la sécurité, l’environnement, les conditions de travail, le coût complet et les solutions moins intrusives.
4. Garder un responsable humain identifiable. Une personne ou un service répond de la décision et dispose du pouvoir de la corriger.
5. Garantir une voie non numérique. Téléphone, rendez-vous, courrier ou accueil physique restent possibles pour les démarches essentielles.
6. Informer au bon moment. L’usager sait qu’il interagit avec une machine ou qu’un traitement algorithmique contribue à l’examen de son dossier.
7. Expliquer et permettre le recours. Les faits, règles et données déterminants sont exposés dans un langage utile, avec un délai et un contact de réexamen.
8. Tester les écarts. Les résultats sont comparés par territoire et par groupes pertinents, dans le respect du droit, afin de détecter des effets discriminatoires directs ou indirects.
9. Protéger les données. Minimisation, habilitations, chiffrement, journalisation, durée de conservation et interdiction des outils non autorisés sont documentés.
10. Prévoir la sortie. Les marchés garantissent l’export, la portabilité, l’accès aux journaux, la continuité et la possibilité de changer de fournisseur.
11. Former et protéger les agents. Le temps de contrôle est reconnu ; un agent peut contredire l’outil et signaler un incident sans objectif de productivité incompatible.
12. Publier le bilan. Coût complet, délais, erreurs, recours, incidents, accessibilité et satisfaction sont comparés à la situation antérieure.

Questions fréquentes