Savoir quelles décisions d'IA garder sous contrôle
Un contrôle automatique va vite, une validation humaine rassure. Trois niveaux de contrôle permettent de décider, tâche par tâche, ce que l'IA fait seule et ce qui exige une personne, avec ce que disent le RGPD et l'AI Act.
Une IA qui rédige, trie ou calcule va plus vite que vos équipes. Elle se trompe aussi, avec la même assurance. La question utile n'est donc pas de choisir entre l'IA et l'humain. Elle est de savoir à quel moment une personne doit regarder le résultat avant qu'il sorte de l'entreprise.
Trois niveaux de contrôle
Le premier niveau est l'automatisme complet. L'IA agit seule et vous contrôlez après coup, par échantillon. Il convient aux tâches où une erreur coûte peu et se corrige vite, comme le tri de courriels internes ou la mise en forme de documents.
Le deuxième niveau est la validation avant envoi. L'IA prépare, une personne relit et valide. C'est le bon niveau pour les courriers clients, les devis et les comptes rendus.
Le troisième niveau est la décision humaine assistée. L'IA fournit une analyse, la personne décide et répond de son choix. Il s'applique dès que la décision touche une personne, un contrat ou un engagement financier.
Choisir un niveau de validation selon le risque
| Niveau | Situation adaptée |
|---|---|
| Contrôle après coup | Tâches réversibles et à faible conséquence, avec vérification par échantillon. |
| Validation avant action | Réponses ou modifications engageantes à vérifier par un collaborateur. |
| Décision réservée à l'humain | Situations sensibles où une erreur pourrait avoir des conséquences importantes. |
Ce que disent le RGPD et l'AI Act
L'article 22 du RGPD donne à toute personne le droit de ne pas faire l'objet d'une décision fondée uniquement sur un traitement automatisé, profilage compris, lorsque cette décision produit des effets juridiques ou l'affecte de façon significative. Un refus de candidature, une tarification individualisée ou un refus de crédit entrent dans ce cadre. Des exceptions existent, par exemple l'exécution d'un contrat ou le consentement explicite de la personne, avec des garanties à prévoir.
Le règlement européen sur l'IA va dans le même sens pour les systèmes à haut risque. Son article 14 exige qu'ils soient conçus pour permettre une surveillance humaine effective. Les usages liés au recrutement et à la gestion des salariés figurent parmi les catégories à haut risque. Si vous utilisez l'IA pour trier des candidatures ou évaluer des équipes, faites vérifier votre situation, car le calendrier d'application de ces obligations est propre à cette catégorie.
Un contrôle humain qui ne contrôle rien
Une validation humaine peut être purement formelle. Le salarié clique sur « valider » sans lire, parce que l'outil a eu raison jusque-là. Pour éviter cela, la personne qui valide a besoin de trois choses. Le temps de lire, l'information pour juger, et le pouvoir de refuser.
La Banque Postale donne un exemple dans le domaine des paiements. Pour un changement de RIB, elle recommande de rappeler le fournisseur sur son numéro habituel et de répartir la saisie et la validation des coordonnées bancaires entre plusieurs collaborateurs. Le contrôle repose sur une vérification indépendante, pas sur une relecture de ce qui a déjà été préparé. Le même principe vaut pour l'IA.
Comment choisir le niveau, tâche par tâche
Posez deux questions. Que se passe-t-il si l'IA se trompe et que personne ne le voit ? Combien de temps faut-il pour corriger ? Si les réponses sont « rien de grave » et « quelques minutes », automatisez. Sinon, placez une validation. Notez le niveau retenu dans votre charte d'usage. Pour le cadre général, voyez notre article sur la conformité IA.
Sources : EUR-Lex (RGPD, article 22), EUR-Lex (règlement sur l'IA, article 14 et annexe III), La Banque Postale
Pour définir le bon niveau de contrôle sur vos premiers projets, réservez un échange de 30 minutes.
