Les nœuds de vérification humains

Le premier article de cette série a posé le déplacement : l'IA accélère la production de code, et le métier glisse vers spécifier, vérifier, décider. Reste une question pratique que personne ne peut éviter longtemps : faut-il tout relire ? Si superviser signifiait revoir chaque ligne, chaque appel, chaque décision d'un système qui produit dix fois plus vite qu'avant, la supervision deviendrait le nouveau goulot d'étranglement. La bonne réponse n'est pas « tout » ni « rien ». C'est de placer l'humain aux bons nœuds — ces points de passage où une validation humaine est non négociable, et de les distinguer des zones où l'IA peut avancer seule.

Superviser, ce n'est pas tout relire

La supervision efficace n'est pas une relecture exhaustive : c'est un placement. Vouloir tout vérifier revient à annuler le gain de l'IA et, pire, à diluer l'attention là où elle compte vraiment — car une vigilance permanente s'émousse et laisse passer l'essentiel. À l'inverse, tout accepter revient à exécuter les yeux fermés une sortie qu'on n'a pas jugée. Entre les deux, il existe une troisième voie : identifier le petit nombre de points où une erreur coûte cher et se paie longtemps, y installer un contrôle humain réel, et relâcher ailleurs. Superviser, c'est décider où regarder, pas tout regarder.

Ce principe n'est pas une préférence de style : il est inscrit dans la réglementation. Le règlement européen sur l'IA, à son article 14 consacré à la supervision humaine, prévoit que les personnes chargées de superviser un système à haut risque puissent « décider, dans une situation particulière, de ne pas utiliser le système ou d'en écarter, annuler ou inverser la sortie », et « intervenir » ou l'« interrompre » via un bouton d'arrêt ramenant le système à un état sûr. La supervision y est définie par la capacité d'agir aux moments décisifs — pas par la relecture continue.

Deux questions suffisent : quel risque, quelle réversibilité ?

Pour placer l'humain sans y passer ses journées, un cadre simple suffit : croiser le risque (que se passe-t-il si c'est faux ?) et la réversibilité (peut-on revenir en arrière, et à quel prix ?). Ces deux axes dessinent quatre zones (Fig. 1). Une action à fort risque et difficilement réversible — pousser en production, débiter un compte, exposer des données personnelles — exige une validation humaine, sans exception. Une action à faible risque et parfaitement réversible — un brouillon, une exploration jetable, une reformulation — peut être laissée à l'IA, quitte à vérifier après coup. Entre les deux, une revue proportionnée : un coup d'œil pour ce qui est peu risqué mais irréversible, une relecture attentive pour ce qui est risqué mais rattrapable.

L'intérêt de ce cadre, c'est qu'il se règle en amont, une fois, plutôt que dans l'urgence à chaque sortie. On ne se demande pas « ai-je le temps de relire ? » mais « dans quelle case tombe cette action ? ». Et la réponse ne dépend pas de la confiance qu'on accorde à l'IA : même excellent, un système peut se tromper sur l'action précise qui, elle, est irréversible.

Les nœuds non négociables

Certaines zones ne se négocient pas, parce que l'erreur y engage bien plus que du code (Fig. 2). Les données personnelles : qui accède à quoi, ce qui est exposé ou conservé. Le règlement général sur la protection des données va jusqu'à interdire, à son article 22, qu'une personne soit soumise à une décision « fondée exclusivement sur un traitement automatisé » produisant des effets juridiques ou l'affectant de manière significative, et garantit le droit d'obtenir une intervention humaine. La mise en production et le déploiement : ce qui touche des utilisateurs réels ne se pousse pas sur la foi d'une génération plausible. L'argent — paiement, facturation, remboursement. La sécurité — accès, secrets, droits, tout ce qui ouvre une porte. L'engagement juridique ou contractuel. Et, transversale à toutes, toute décision qui affecte une personne : un recrutement, une sanction, un refus.

Cette liste devient d'autant plus concrète quand l'IA ne se contente plus de suggérer mais agit — appelle des outils, écrit des fichiers, déclenche des envois. La recommandation de sécurité OWASP consacrée à l'« agence excessive » (LLM06) nomme précisément ce risque et donne deux parades directes : le moindre privilège — ne donner à l'agent que les accès strictement nécessaires à sa tâche — et le maintien d'un contrôle humain qui exige « qu'une personne approuve les actions à fort impact avant qu'elles ne soient entreprises ». Les nœuds ne sont pas une lourdeur morale : ce sont des points de contrôle techniques, à câbler dans le système lui-même.

Là où l'on peut, et où l'on doit, lâcher du lest

Le pendant de ces nœuds, c'est la liberté ailleurs. Tout ce qui est réversible et à faible enjeu gagne à être délégué largement : un premier brouillon, une piste explorée en dix minutes, une mise en forme, une variante jetée aussitôt que testée. Y appliquer le même niveau de contrôle qu'à un déploiement serait non seulement épuisant, mais contre-productif : c'est précisément en refusant de tout relire qu'on garde l'énergie de relire ce qui compte. Lâcher du lest sur le réversible n'est pas de la négligence — c'est la condition d'une vigilance qui tient dans la durée.

Ce partage éclaire aussi le choix des outils. Un assistant qui suggère et un agent qui exécute ne posent pas les mêmes nœuds : dès que le second touche à votre environnement, la question de qui pilote vraiment la machine devient centrale. Et comprendre pourquoi une sortie peut être plausible sans être fondée suppose de savoir comment un modèle de langage produit sa réponse.

La supervision n'est donc pas un impôt payé sur la vitesse de l'IA : c'est ce qui la rend utilisable. En concentrant l'attention humaine sur quelques nœuds non négociables et en libérant le reste, on garde à la fois le gain de production et la responsabilité de ce qui est livré. Le prochain déplacement de cette série partira de là : puisque l'humain reste garant, que devient la compétence qui lui permet de l'être vraiment ?