IA et gouvernance · 9 min de lecture
Agent IA conversationnel : où placer la supervision humaine ?
Un cadre de décision pour automatiser les demandes répétitives sans laisser l’agent décider au-delà de son mandat.
Par Équipe Lina
L’autonomie doit être définie par situation
Un agent conversationnel ne devrait pas disposer d’un niveau d’autonomie unique. Répondre à une question d’horaires, modifier une adresse de livraison et accorder un remboursement n’exposent pas l’entreprise au même risque. La gouvernance commence donc par une matrice de décisions, pas par un bouton activé ou désactivé.
Pour chaque intention, précisez les données accessibles, les actions autorisées, les conditions de validation et le comportement en cas d’incertitude. Cette discipline rend le système compréhensible par les équipes métier et auditable.
Trois niveaux d’intervention humaine
Le premier niveau laisse Lina répondre et agir dans un périmètre à faible risque. Le deuxième demande une validation avant envoi ou exécution. Le troisième transfère immédiatement la conversation, accompagné d’un résumé et d’une recommandation.
Le choix dépend de l’impact d’une erreur, de la sensibilité des données, de la réversibilité de l’action et de la confiance mesurée sur l’intention détectée.
- Autonome : FAQ validée, statut de commande, prise d’information.
- Assisté : geste commercial, modification contractuelle, réponse sensible.
- Transféré : menace, litige, donnée médicale ou juridique, forte incertitude.
Un transfert doit transmettre plus qu’un message
Un opérateur ne devrait pas relire vingt messages pour comprendre la situation. Le transfert doit inclure l’intention détectée, les informations collectées, les sources consultées, les actions déjà réalisées et la raison de l’escalade. La conversation originale reste disponible pour vérifier le résumé.
Cette structure améliore la vitesse de reprise et permet de mesurer les causes de transfert. Elle évite aussi que le client répète les informations qu’il vient de fournir.
Contrôler par échantillonnage et par exception
Le contrôle qualité doit combiner un échantillon régulier de conversations et des alertes ciblées : faible confiance, langage agressif, promesse commerciale, donnée personnelle ou séquence inhabituellement longue. Les erreurs observées alimentent les règles, les contenus et les tests de non-régression.
Une gouvernance utile ne bloque pas l’automatisation. Elle rend son périmètre explicite, mesurable et évolutif, ce qui permet d’augmenter l’autonomie lorsque les preuves de qualité sont suffisantes.