« Dans une note*, publiée le 6 octobre avec la fondation Jean-Jaurès, Le Sens du service public appelle à formaliser une « gouvernance publique » de l’IA et à concevoir une stratégie pour assurer un déploiement de l’IA au service des usagers et des agents. » Car, sans cap politique et en l’absence d’une doctrine interministérielle partagée, la transformation numérique risque de prendre le tournant de l’automatisation, à défaut d’offrir des services publics augmentés qui allient innovation et protection des usagers. Johan Theuret, cofondateur du think tank Le Sens du service public, directeur général adjoint chargé du pôle ressources à la ville de Rennes et à Rennes Métropole, nous éclaire sur l’importance de formaliser et d’encadrer l’utilisation de l’IA dans l’administration.
L’IA est-elle déjà beaucoup utilisée dans le service public ?
En effet, il y a aujourd’hui une utilisation régulière dans l’administration. Le service public n’échappe pas à l’IA générative, à travers des outils très généraux comme ChatGPT ou Copilot, ou à l’aide d’outils plus spécifiques, adaptés à certains métiers, comme en matière de finances, de communication ou de commande publique. Mais certains agents s’en servent aussi de façon cachée, non autorisée. C’est ce que l’on appelle le « shadow IA » qui est, par définition, difficile à estimer ; en juillet dernier, un rapport conjoint Inspection générale des finances, Inspection générale de l’administration et Inspection générale des affaires sociales, évaluait son taux d’utilisation à près de 40 %.
Vous dénoncez une absence de cap politique et de doctrine interministérielle partagée sur l’IA ?
Dans les faits, soit l’administration laisse faire, soit elle déploie des outils métiers mais il n’y a pas de cap pour savoir vers quels usages on veut aller et comment intégrer l’IA dans le quotidien des agents. S’agit-il de la substituer aux postes de travail et aux métiers ou de l’utiliser en complément, ce qui offre alors la possibilité de redéployer de la force de travail sur d’autres missions, notamment dans la relation avec les usagers ? Étant donné que les usages devancent la stratégie, on ne sait pas vraiment où l’on va… D’où des problèmes, en matière de cybersécurité ou d’interconnexion entre les outils, par exemple. C’est pourquoi nous alertons sur le fait que, sans cap ni stratégie, on risque de commettre les mêmes erreurs que pour la dématérialisation des services publics ; la dématérialisation s’est faite un peu à marche forcée sans savoir vers quoi on voulait aller, et il en est résulté des difficultés importantes pour les usagers dans leurs démarches administratives. Si l’on ne fixe pas de cap, les usages vont se développer de façon erratique, se multiplier et partir dans tous les sens. Le service public ne peut pas avancer comme ça.
Je ne suis pas sûr que toutes les collectivités aient une stratégie sur le développement de l’IA. Il y a un côté merveilleux, séduisant de l’IA, et on peut vite céder aux sirènes et à la sensation de pouvoir faire plus de choses et plus rapidement et de laisser faire sans voir les dangers qui y sont associés. Qu’il s’agisse du risque cyber, des fuites de données ou encore des conséquences environnementales de l’IA. Les outils utilisés pour certains usages ne sont pas forcément adaptés, ce sont des très gros modèles qui polluent beaucoup ou créent des risques d’erreurs ou d’hallucinations algorithmiques. S’il y avait un cap, on pourrait s’orienter vers des petits modèles plus adaptés, plus fiables, avec des conséquences énergétiques plus faibles.
En quoi pourrait consister l’encadrement de l’IA dans l’administration ?
L’IA peut faciliter le travail quotidien des agents, réduire les tâches fastidieuses ou répétitives mais il faut impérativement que le temps dégagé soit mis à profit. Elle ne doit pas être perçue comme une solution miracle pour supprimer des postes et résoudre le déficit public. De plus, il faut contrôler la production de l’IA, qui peut comporter des erreurs, des biais ou des hallucinations en fonction des sources de données sur lesquelles l’outil puise ses connaissances. Il faut donc s’assurer qu’une intervention humaine vérifie sa production pour en garantir la qualité car c’est la puissance publique qui est responsable. Cela nécessite à la fois de connaître les usages de l’IA dans les service publics – d’où les limites du shadow IA. En outre, cela renvoie au maintien des compétences : un usage répété dans le temps entraîne une perte de compétences chez les agents, qui rend ensuite impossible de contrôler ce que produit l’IA. Et, au-delà d’un sujet technologique, l’IA va aussi devenir un sujet sociétal, avec d’énormes conséquences sur la destruction des emplois. On pourrait comparer son développement à la mondialisation, qu’on a portée à tous crins dans les années 90 et qui a abouti à la désindustrialisation. Les manifestations actuelles des lycéens, qui utilisent l’IA quotidiennement, expriment aussi cette inquiétude sur leurs futurs emplois.
Vous suggérez donc que l’IA résulte d’un « choix politique au service des principes du service public » ?
Soit on considère que l’IA se développe « comme ça » et que c’est un outil magique. Soit elle doit être déployée avec pertinence dans les services publics pour améliorer leur fonctionnement, qu’il s’agisse de la relation usager ou du confort des agents. Cela nécessite de savoir comment on veut la déployer, avec quels outils, en étant conscient que cela peut être un élément de fragilisation des compétences. Sans compter que la souveraineté est en jeu et qu’il ne faut pas créer de dépendance technologique vis-à-vis des opérateurs – des Gafam notamment. Le temps dégagé doit être remis au service de l’usager et non servir à réaliser des économies budgétaires.
Propos recueillis par Martine Courgnaud – Del Ry
* L’intelligence artificielle dans les services publics : une accélération technologique sans véritable cap politique, note Fondation Jean-Jaurès, Le Sens du service public
