Exploiter et maintenir
Maintenir un agent IA en production : ce qui se dégrade, et comment garder le contrôle
Fondateur, 56North · 1 octobre 2026 · 3 min de lecture
La plupart des projets IA sur les plateformes d'entreprise sont jugés sur leur date de mise en service. Puis l'équipe passe au cas d'usage suivant, et le premier agent tourne seul. En quelques mois, les réponses se dégradent, les coûts montent et personne ne sait dire pourquoi. Un agent construit sur Agentforce, Copilot Studio, Joule ou Now Assist demande une maintenance comme tout système en production, avec quelques pannes qui lui sont propres.
Ce qui se dégrade après la mise en service
- Les connaissances vieillissent. L'agent répond à partir des contenus sur lesquels il s'appuie : articles de connaissance, données produits, procédures. Quand un prix, une procédure ou une offre change sans que la source soit mise à jour, l'agent continue de donner l'ancienne réponse, avec aplomb.
- La plateforme change sous vos pieds. Les éditeurs font évoluer leurs fonctions IA souvent, parfois jusqu'au modèle sous-jacent ou à la façon dont l'agent planifie ses étapes. Salesforce, par exemple, publie trois versions majeures par an. Un changement que vous n'avez pas fait peut modifier le comportement de votre agent.
- Les utilisateurs inventent de nouveaux usages. Ils posent à l'agent des questions pour lesquelles il n'a pas été conçu. Une partie sort de ses instructions, et c'est là que les réponses deviennent improvisées, ou fausses.
- Les droits d'accès dérivent. De nouvelles sources de données sont branchées, de nouvelles actions ajoutées, des droits élargis « provisoirement ». Chaque changement étend ce que l'agent peut lire ou faire.
- Les coûts dérivent. Des conversations plus longues, plus d'actions par demande et plus d'utilisateurs font monter la consommation. Sans un coût par conversation suivi chaque mois, c'est la facture qui donne l'alerte.
- Les intégrations cassent. Une API change, un champ est renommé, un système migre. L'agent ne tombe pas forcément en panne visible : il peut simplement cesser d'utiliser la donnée et répondre sans elle.
Les risques qui accompagnent la dérive
Deux risques méritent une attention particulière, parce qu'ils grandissent avec le temps :
- L'exposition des données. Un assistant qui fouille les contenus de l'entreprise montre à chaque utilisateur tout ce qu'il a techniquement le droit de voir. Si les droits sur les dossiers et les sites partagés sont trop larges, l'assistant rend ce surpartage visible en quelques secondes.
- L'injection de prompt. Un texte caché dans un document, un e-mail ou une page web peut contenir des instructions que l'agent exécute. L'OWASP la classe en tête des risques des applications fondées sur des modèles de langage. Plus un agent a de sources de données et d'actions, plus l'exposition est grande.
Une routine mensuelle pour garder le contrôle
| Fréquence | Que faire | Qui |
|---|---|---|
| Après chaque changement, y compris les versions de l'éditeur | Rejouer un jeu fixe de conversations de test et comparer les réponses | Équipe plateforme |
| Chaque semaine | Lire un échantillon de vraies conversations, surtout les escalades et les avis négatifs | Responsable de l'agent |
| Chaque mois | Revoir quatre indicateurs : taux de résolution, taux d'escalade, avis des utilisateurs, coût par conversation | Responsable de l'agent et sponsor métier |
| Chaque trimestre | Revoir les droits, les sources de données et les actions ; retirer ce qui ne sert plus | Équipe plateforme et sécurité |
Tenez un journal des modifications pour chaque agent : ce qui a changé, quand, pourquoi, et qui l'a validé. C'est le premier document qu'un contrôleur demandera, et le moyen le plus rapide de comprendre un changement de comportement soudain.
Qui est responsable de l'agent
Donnez à chaque agent un responsable nommé, une personne et non une équipe, capable de répondre à tout moment à trois questions : que fait l'agent, le fait-il bien, et qu'est-ce qui a changé en dernier ? Pour les agents utilisés dans des processus sensibles, l'AI Act en fait une obligation : les déployeurs de systèmes à haut risque doivent en surveiller le fonctionnement et signaler les incidents graves.
Questions et réponses
À quelle fréquence tester un agent IA après sa mise en service ?
Après chaque changement, y compris les versions de l'éditeur, rejouez un jeu fixe de conversations de test. Ajoutez une relecture hebdomadaire d'un échantillon de vraies conversations et une revue mensuelle des indicateurs de résolution, d'escalade, d'avis et de coût.
Pourquoi un agent IA se dégrade-t-il avec le temps ?
Ses sources de connaissance vieillissent, l'éditeur fait évoluer la plateforme et parfois le modèle, les utilisateurs posent de nouveaux types de questions et les intégrations changent. Rien de tout cela n'apparaît comme un message d'erreur.
Qui doit être responsable d'un agent IA en production ?
Une personne nommée, capable de dire à tout moment ce que fait l'agent, s'il le fait bien et ce qui a changé en dernier. Une équipe n'est pas un responsable.