Human-in-the-loop : où placer l'humain dans un agent métier

Le human in the loop d’un agent IA consiste à placer une validation humaine aux endroits où une erreur coûterait cher : avant toute action irréversible, sous un seuil de confiance mesuré, et dès qu’une demande sort du périmètre prévu. Un agent métier bien conçu traite seul les cas simples et réversibles, propose une action sur les cas engageants et escalade le reste. Chaque décision, humaine ou automatique, est journalisée.

La question utile n’est pas « faut-il un humain ? » mais « à quelle étape, pour quelles actions, avec quelle information sous les yeux ? ». Un agent qui demande une validation à chaque étape ne fait gagner aucun temps ; un agent qui n’en demande jamais finit par rembourser la mauvaise commande.

Voici une méthode réutilisable en 2026 pour des agents IA de service client, de finance ou de commerce : classer les actions, fixer des seuils de confiance, concevoir l’écran de validation, organiser l’escalade et journaliser.

Qu’est-ce que le human in the loop dans un agent IA ?

Le human in the loop (HITL, « humain dans la boucle ») désigne tout point du parcours d’un agent IA où l’exécution s’arrête jusqu’à ce qu’une personne approuve, corrige ou refuse ce que l’agent propose. Le « human on the loop », lui, supervise après coup des actions déjà exécutées.

Trois formes coexistent souvent dans un même agent :

1. L’approbation : l’agent prépare une action (un remboursement, un e-mail, une écriture comptable) et attend un accord explicite.
2. La correction : l’humain modifie le brouillon de l’agent avant l’envoi, et cette correction alimente les evals.
3. L’escalade : l’agent reconnaît qu’il ne doit pas traiter la demande et la transfère, avec son analyse.

Côté technique, LangGraph convient quand le parcours de l’agent doit s’interrompre avant une étape sensible, conserver son état et reprendre après validation. Le Claude Agent SDK et l’OpenAI Agents SDK permettent de contrôler finement les outils autorisés. Avec MCP (Model Context Protocol), le standard ouvert qui connecte un agent à vos outils, la séparation se fait aussi au niveau des connecteurs : lecture seule d’un côté, action aux droits restreints de l’autre.

Quelles actions doivent passer par une validation humaine ?

Une action doit passer par une validation humaine dès qu’elle est irréversible, qu’elle engage l’entreprise envers un tiers ou qu’elle touche à de l’argent. Listez les outils que l’agent peut appeler et classez chacun dans l’une de ces trois catégories.

Catégorie	Exemples	Règle
Lecture	consulter une commande dans Shopify, lire une fiche HubSpot, chercher dans les documents	automatique, journalisée
Action interne et réversible	préparer un brouillon de réponse dans Zendesk, ajouter une note au CRM, proposer un créneau	automatique au-dessus du seuil de confiance, sinon validation
Action engageante	rembourser, envoyer un e-mail à un client, modifier une commande, passer une écriture dans Pennylane	toujours proposée par l’agent, confirmée par un humain

Ce classement dimensionne le projet : un agent qui consulte et répond reste dans la première ligne, tandis qu’un agent qui agit demande des écrans de validation, des droits fins et une journalisation complète. Le même principe guide les patterns d’un agent IA fiable en production : séparer ce que l’agent lit de ce qu’il fait.

Comment fixer un seuil de confiance pour un agent IA ?

Un seuil de confiance se fixe sur des signaux mesurés, pas sur la note que le LLM s’attribue lui-même. Un LLM comme Claude, GPT ou Mistral qui écrit « confiance : 0,9 » ne fournit pas une probabilité fiable.

Les signaux utiles :

• la couverture des sources : la réponse s’appuie-t-elle sur un passage retrouvé par le RAG, ou l’agent extrapole-t-il ?
• les règles métier : montant au-dessus d’un plafond, client signalé comme sensible, demande hors des catégories connues ;
• la classification de la demande : une intention reconnue parmi celles qui ont été testées, ou une demande nouvelle.

En pratique, tout passe en validation pendant les premières semaines et chaque décision est enregistrée (acceptée, corrigée, refusée). On mesure ensuite le taux d’acceptation sans correction par catégorie de demande, et on automatise seulement les catégories où ce taux reste durablement élevé. Promptfoo ou DeepEval rejouent ces cas à chaque changement de prompt ou de modèle pour vérifier que le seuil tient. Le dispositif complet est décrit dans l’article sur les evals d’un agent IA en production.

À quoi doit ressembler l’écran de validation ?

L’écran de validation doit permettre de décider en quelques secondes, sans rouvrir trois outils ; sinon les validations finissent approuvées sans lecture.

Une bonne demande de validation contient :

1. l’action proposée, formulée en une phrase (« Rembourser la commande 1834 ») ;
2. la justification de l’agent et les sources consultées, avec un lien vers la commande ou le document ;
3. la règle qui a déclenché la validation (montant, profil du client, incertitude) ;
4. trois choix : approuver, modifier, refuser avec un motif.

La validation arrive là où l’équipe travaille déjà : une vue dans Zendesk pour le support, une tâche dans HubSpot pour les commerciaux, un message Teams ou Slack pour une approbation rapide. Un cas typique : l’agent prépare la réponse et le remboursement, le conseiller relit dans le ticket et approuve, puis l’agent exécute. Un exemple de mise en production : un agent de support e-commerce qui agit sur les commandes après confirmation.

Comment organiser l’escalade vers un humain ?

L’escalade fonctionne quand elle désigne une file précise et transmet un dossier complet, pour que le client n’ait rien à répéter.

Les règles à écrire au cadrage :

• les déclencheurs : demande hors périmètre, réclamation ou forte insatisfaction, mention juridique (avocat, mise en demeure), donnée sensible, deux tentatives sans résultat ;
• la destination : quelle équipe, quelle file, à quelles heures, et ce que l’agent répond en dehors de ces horaires ;
• le dossier transmis : résumé de la demande, informations déjà collectées, pistes écartées ;
• le délai : ce qui se passe si personne ne prend la demande.

Les connecteurs de l’agent se limitent aux outils de son périmètre, comme le détaille l’article sur MCP en entreprise et la sécurité des connexions aux outils.

Pourquoi journaliser chaque décision de l’agent ?

Journaliser chaque décision permet de savoir qui a décidé quoi, sur quelle base, le jour où un client conteste ou où l’agent se trompe.

Le journal minimal contient la demande, les outils appelés et leurs réponses, l’action proposée, la règle déclenchée, le valideur, sa décision, sa correction et l’horodatage. Langfuse ou LangSmith conservent la trace technique de chaque exécution ; la décision humaine s’y rattache par un identifiant commun.

Côté réglementaire, l’AI Act exige un contrôle humain effectif pour les systèmes classés à haut risque (article 14 du règlement européen sur l’intelligence artificielle). La plupart des agents métier de PME n’en relèvent pas, mais le journal reste la meilleure preuve de maîtrise en cas de litige.

Le test à faire avant de lancer votre agent

Pour chaque action de votre futur agent, répondez à trois questions : est-elle réversible, qui la valide, que voit cette personne au moment de valider ? Une action engageante sans valideur nommé ne s’automatise pas. Si presque tout relève de la validation, commencez par un agent qui consulte et répond : il démarre dès 1 500 € et tourne en production en 2 semaines, le temps de mesurer où l’automatisation est fiable.

Pour un agent qui agit dans vos outils, le placement de l’humain se décide pendant le cadrage offert, qui fixe aussi le prix ferme. La page création d’agents IA métier avec validation humaine présente les deux niveaux d’agents et ce que chacun comprend.