Par AI Makers Content Team · · Mis à jour le
Human-in-the-loop : où placer la validation humaine en IA ?
Faire approuver chaque action d'un agent IA semble prudent, jusqu'au jour où la personne qui valide passe ses journées à cliquer sur « Approuver » sans lire. La question utile porte sur les actions qui méritent ce contrôle.
Le human-in-the-loop (HITL) est l'intervention d'une personne à l'intérieur d'un workflow automatisé : l'IA prépare ou propose, puis le système demande une information, une validation ou une décision humaine avant d'agir quand le risque l'exige. Le niveau de contrôle se fixe selon l'impact d'une erreur, sa réversibilité et l'ambiguïté du cas.
- Échelle de contrôle (grille AI Makers) : quatre niveaux, du traitement automatique journalisé jusqu'à la décision prise par une personne avec l'aide de l'IA.
- Pause dans un workflow : Google Cloud documente deux types d'étapes humaines, la demande d'information et l'approbation, qui suspendent l'exécution (Gemini Enterprise, documentation consultée le 17 octobre 2026).
- AI Act : l'article 14 du règlement (UE) 2024/1689 exige un contrôle humain effectif sur les systèmes à haut risque ; le règlement (UE) 2026/1744 a repoussé au 2 décembre 2027 les obligations qui visent le recrutement et l'évaluation des salariés.
- Situations classées par la grille : six, du tri d'un e-mail entrant (niveau 1) à l'avis médical ou au choix d'un candidat (niveau 4).
Les quatre niveaux de contrôle
| Niveau | Risque d'une erreur | Ce que fait le système | Rôle de la personne |
|---|---|---|---|
| 1. Automatique | Faible, action facile à annuler | Exécute et journalise | Relit les journaux de temps en temps |
| 2. Surveillé | Limité, anomalie repérable | Exécute ; s'arrête sur une exception | Traite les cas que le système lui renvoie |
| 3. Approbation | Élevé, effet externe ou coûteux à corriger | Prépare l'action et attend | Approuve, corrige ou refuse avant exécution |
| 4. Décision humaine | Critique, décision réservée à une personne habilitée | Rassemble et résume | Décide seule ; la sortie de l'IA reste une aide |
Situation par situation
| Situation | Exemple | Niveau |
|---|---|---|
| Faible impact, facilement réversible | Classer un e-mail entrant dans le bon dossier | 1 |
| Impact limité, anomalie détectable | Relancer une facture échue selon une règle fixe | 2 |
| Information manquante ou cas ambigu | Une demande client sans numéro de commande | 2, avec pause et demande d'information |
| Impact significatif mais réversible | Réponse à une réclamation, préparée par l'IA | 3 |
| Action externe ou difficile à annuler | Paiement fournisseur, modification de droits d'accès | 3 |
| Décision réservée à un professionnel | Avis médical, choix d'un candidat | 4 |
Cette grille sert de point de départ ; chaque processus a ses propres exceptions.
Pour vous si vous portez un processus que l'IA va en partie automatiser et devez dire, avant la mise en production, ce que l'agent a le droit de faire seul : par exemple une responsable comptable qui accepte que l'IA pré-remplisse les factures fournisseurs mais pas qu'elle déclenche un paiement.
Pas pour vous si vous cherchez le human-in-the-loop au sens de l'apprentissage automatique, c'est-à-dire des personnes qui annotent ou corrigent des données pour entraîner un modèle. Le terme désigne aussi cet usage, couvert par l'article d'IBM cité en sources.
Quelle différence entre human-in-the-loop, on-the-loop et out-of-the-loop ?
IBM définit le human-in-the-loop comme la participation active d'une personne au fonctionnement, à la supervision ou aux décisions d'un système automatisé. Trois positions sont à distinguer dans un workflow.
| Position | Place de la personne | Exemple |
|---|---|---|
| In the loop | Le workflow s'arrête et attend sa réponse | Un avoir client ne part qu'après accord du responsable |
| On the loop | Elle supervise et peut intervenir, sans valider chaque action | Un tableau de bord signale les relances inhabituelles |
| Out of the loop | Aucune intervention prévue pendant l'exécution | Archivage automatique des pièces déjà traitées |
Un même processus mélange souvent les trois. Dans une chaîne de traitement des factures, la lecture du document peut tourner hors de la boucle, le rapprochement avec la commande sous supervision, et le paiement avec une personne dans la boucle.
Quatre questions pour fixer le niveau de contrôle
Quel est le coût d'une erreur ? Une catégorie mal attribuée dans un outil interne se corrige en un clic. Un engagement envoyé à un client, une suppression de données ou une décision sur une personne laissent une trace. Plus l'effet possible est lourd, plus l'autorité du système doit être étroite.
L'action peut-elle être annulée ? Une modification de fiche CRM se reprend. Un virement exécuté ou un message publié produisent leur effet tout de suite. La réversibilité tranche souvent mieux qu'une impression générale de « confiance dans l'IA ».
L'erreur peut-elle être repérée avant d'agir ? Comparez deux enchaînements. Dans le premier, l'IA prépare, une règle vérifie, une personne valide, puis l'action part. Dans le second, l'IA décide, l'action part, et quelqu'un découvre l'erreur après coup. Placez le contrôle juste avant l'étape qui devient coûteuse à corriger.
Le cas demande-t-il un jugement ? Une information manque, deux règles se contredisent, la demande sort du périmètre habituel. Le système doit alors reconnaître l'exception et poser la question à une personne, au lieu de combler le vide par une supposition.
Pourquoi valider 100 % des actions déplace le goulot
Avant l'automatisation, une personne faisait l'action. Avec une approbation systématique, cette même personne vérifie et approuve chaque action : le travail a changé de forme sans diminuer. À force de valider des propositions presque toujours justes, le validateur finit en outre par approuver sans lire le détail.
L'AI Act nomme ce travers : parmi les mesures de contrôle humain qu'il prévoit pour les systèmes à haut risque, la personne doit rester consciente de sa tendance à se fier automatiquement aux sorties du système.
Réservez donc l'approbation au niveau 3 ; au niveau 4, la personne décide elle-même et la sortie de l'IA ne sert que d'appui. Aux niveaux 1 et 2, un contrôle par exception et un échantillon relu chaque semaine coûtent moins et attrapent davantage d'anomalies, parce que l'attention se concentre sur les cas qui la méritent.
Ce que voit le validateur, et ce qui se passe s'il ne répond pas
Un bouton « Approuver » sans contexte ne contrôle rien. L'écran de validation montre l'élément déclencheur, les données utilisées, la proposition de l'IA, la raison de la demande et l'effet de chaque choix. La personne peut approuver, corriger ou refuser, et sa décision est enregistrée avec son nom.
Une étape humaine crée aussi un nouvel état, « en attente », que le workflow doit savoir gérer. Un silence ne vaut jamais accord. Fixez donc à l'avance le destinataire de la demande, le délai au-delà duquel elle expire, la personne qui prend le relais pendant une absence et le sort de l'action à expiration : annulée, suspendue ou transmise au niveau supérieur.
La documentation de Google Cloud pour Gemini Enterprise illustre ce mécanisme : ses étapes de demande d'information et d'approbation suspendent le workflow jusqu'à la réponse humaine. Côté outils d'automatisation, n8n affiche dans sa grille une approbation humaine des appels d'outils par un agent ; notre comparatif n8n vs Make détaille ce point.
Score de confiance et journaux : deux garde-fous à ne pas confondre
Un score de confiance peut déclencher une revue, à condition d'avoir été mesuré sur vos propres cas. Un seuil fixé à 0,8 sans test ne dit rien de la conséquence d'une erreur ni de la réversibilité de l'action. Testez aussi ce qui se passe juste au-dessus du seuil : c'est là que passent les erreurs les plus gênantes, parce que personne ne les regarde.
Le journal, lui, sert après coup. Pour chaque passage, conservez l'entrée, la règle ou l'étape appliquée, la sortie, l'action exécutée, la demande de validation éventuelle avec la personne qui a répondu, et les erreurs rencontrées. Ces enregistrements permettent de reconstituer pourquoi une action est partie, le jour où un client conteste ou qu'un auditeur pose la question.
Ce que dit l'AI Act sur le contrôle humain
L'article 14 du règlement (UE) 2024/1689 demande que les systèmes d'IA à haut risque puissent être contrôlés effectivement par des personnes pendant leur utilisation. Ces personnes doivent pouvoir comprendre les capacités et les limites du système, interpréter ses sorties, décider de ne pas s'en servir ou de les écarter, et l'interrompre par un bouton d'arrêt ou une procédure équivalente. L'article 26 charge l'entreprise qui utilise le système de confier ce contrôle à des personnes compétentes, formées et dotées de l'autorité nécessaire.
Ces obligations visent les systèmes à haut risque, pas un assistant qui classe des e-mails. Pour les usages RH concernés, comme le recrutement ou l'évaluation des salariés, le règlement (UE) 2026/1744 a fixé leur entrée en application au 2 décembre 2027. Notre article sur l'IA dans les ressources humaines traite aussi des décisions automatisées au sens du RGPD.
Deux exemples en environnement réglementé
Chez Cardio Check Up, la coordination administrative du cabinet tourne aux niveaux 1 et 2, tandis que les décisions médicales restent au niveau 4, où le médecin décide seul ; l'étude de cas Cardio Check Up décrit ce partage.
Chez Gepromed, les compétences IA préparent l'information et laissent les validations qualité, réglementaires et techniques aux personnes habilitées, selon l'étude de cas Gepromed. Ces deux cas montrent où passe la frontière ; ils ne mesurent pas l'efficacité du contrôle humain lui-même.
Fixer l'autorité de l'agent avant de le construire
Ajouter une validation après avoir construit l'agent revient souvent à le reconstruire. Avant de choisir l'outil, écrivez pour chaque action ce que le système peut lire, modifier, envoyer ou déclencher, ce qu'il doit seulement proposer, et ce qu'il n'a jamais le droit de décider. Attribuez ensuite un niveau de 1 à 4 à chaque action et nommez la personne qui tranche les exceptions.
Si le processus à traiter n'est pas encore choisi, notre guide quels processus automatiser en priorité aide à le désigner, et le calculateur de ROI d'une automatisation à vérifier que le gain couvre le coût des validations. Notre agence d'automatisation IA fixe ces niveaux avec vous avant le développement.
FAQ
Faut-il valider toutes les actions d'une IA ?
Non. Une approbation systématique recrée le travail que l'automatisation devait retirer et finit par être donnée sans lecture. Validez avant exécution les actions qui engagent l'entreprise vis-à-vis d'un tiers ou qui s'annulent mal, comme un paiement. Pour le reste, laissez le système traiter et renvoyer les exceptions, puis relisez un échantillon à intervalle fixe.
Un score de confiance suffit-il pour décider d'une validation ?
Seul, non. Le score mesure l'assurance du modèle sur sa sortie et ignore ce que coûterait une erreur. Combinez-le avec le niveau de risque de l'action : un score élevé peut suffire pour classer un document, jamais pour déclencher un virement. Recalculez le seuil quand les données d'entrée changent, par exemple après l'arrivée d'un nouveau fournisseur.
Qui doit être le validateur dans un workflow IA ?
La personne qui porterait la décision si l'IA n'existait pas : le comptable pour un paiement, le responsable du service client pour un geste commercial. Elle doit avoir l'autorité de refuser et le temps de lire. Prévoyez un suppléant nommé, sans quoi les demandes s'accumulent pendant les congés et le processus s'arrête.
Le human-in-the-loop ralentit-il le processus ?
Il ajoute un délai sur les seules actions qui passent par une personne. Si 5 % des dossiers sont renvoyés pour validation, les 95 % restants avancent sans attente. Le ralentissement devient un problème quand le niveau 3 est appliqué partout ou quand aucun délai d'expiration n'est fixé. Mesurez le temps d'attente moyen des validations dès la mise en service.
Sources
- IBM, What Is Human In The Loop (HITL)? : https://www.ibm.com/think/topics/human-in-the-loop
- Google Cloud, Use human-in-the-loop steps (Gemini Enterprise), étapes de demande d'information et d'approbation, consultée le 17 octobre 2026 : https://docs.cloud.google.com/gemini/enterprise/docs/workflow-builder/use-hitl-steps
- n8n, Plans and Pricing, consultée le 17 octobre 2026 : https://n8n.io/pricing/
- Règlement (UE) 2024/1689 sur l'intelligence artificielle, EUR-Lex : https://eur-lex.europa.eu/eli/reg/2024/1689/oj
- Règlement (UE) 2026/1744 du 8 juillet 2026 modifiant le règlement sur l'IA, EUR-Lex : https://eur-lex.europa.eu/eli/reg/2026/1744/oj
- AI Makers, Étude de cas Cardio Check Up : https://aimakers.fr/etudes-de-cas/cardio-check-up
- Règlement (UE) 2024/1689, articles 14, 26 et 113 (tel que modifié par le règlement (UE) 2026/1744), texte français, EUR-Lex : https://eur-lex.europa.eu/legal-content/FR/ALL/?uri=CELEX%3A32024R1689
- Règlement (UE) 2024/1689, article 14, texte consolidé consulté le 17 octobre 2026 : https://artificialintelligenceact.eu/article/14/
- Règlement (UE) 2024/1689, article 26, texte consolidé consulté le 17 octobre 2026 : https://artificialintelligenceact.eu/article/26/
- Règlement (UE) 2024/1689, article 113, texte consolidé consulté le 17 octobre 2026 : https://artificialintelligenceact.eu/article/113/
