La note du CIANum, d’une douzaine de pages, se fixe pour objectif de trier le bon grain de l’ivraie entre les promesses hallucinantes de l’IA agentique, les craintes de pelletées de salariés et d’agents soufflés par la déflagration technologique et la réalité technique sereinement intégrée dans un quotidien professionnel plus facilité que contrarié. L’IA agentique est un programme informatique capable de décomposer un processus, d’enchaîner les actions et prendre des décisions inspirées par l’IA générative. Mais l’IA ne fait pas tout et le degré d’autonomie de ces systèmes est aléatoire. Le CIANum en liste cinq, de la mise en œuvre de règles prédéfinies jusqu’à des flux semi-autonomes, l’IA complètement auto-dirigée faisant encore l’objet de recherche.
Les risques d’erreurs en cascade et l’insécurité juridique
Le CIANum estime que l’IA agentique relève de la convergence de plusieurs avancées technologiques : l’intégration d’un processus de « raisonnement » en septembre 2024, une meilleure assimilation par les modèles du contexte décrit par l’utilisateur et une innovation logicielle. C’est l’effet de cascades qui tracasse le CIANum : chaque étape pouvant entraîner certaines erreurs, au bout du processus, ces dernières peuvent être amplifiées. L’orchestration des données est aussi montrée du doigt, plusieurs agents IA intervenant simultanément en donnant parfois des informations contradictoires. Autre faille du système : qui est responsable de l’erreur ? L’IA agentique ou l’être humain qui valide le résultat ? Le règlement européen sur l’IA, qui aurait dû poser un cadre, ne l’a pas fait.
L’impact environnemental et la vulnérabilité des systèmes d’information
La fragilité liée à la cybersécurité se pose aussi. Les agents IA étant forcément très compatibles avec d’autres logiciels, les malfrats de l’autre côté de l’écran y voient une aubaine, d’autant plus que ces agents présentent des difficultés à être complètement sécurisés. Dernier point d’un tableau décidément bien sombre : l’empreinte environnementale des agents autonomes ne va pas forcément faciliter la lutte contre le réchauffement climatique ; l’Ademe assure que la généralisation des agents autonomes ferait passer la consommation globale de l’IA dans les centres de données de 20 % à 49 %. Pas de quoi avoir envie d’y aller. Les auteurs de la note précisent enfin que le grand remplacement des emplois par l’IA relève encore du fantasme, une faible part des tâches étant concernée par l’IA. L’IA agentique peut en revanche servir de prétextes à des licenciements économiques, suggère le CIANum.
Stéphane Menu
