IA décisionnelle : de la prédiction à la décision

L'écart entre un score et une action

Un modèle de risque de défaut produit une probabilité. Accorder ou refuser un crédit demande en plus un seuil, et ce seuil dépend du coût relatif des deux erreurs, de l'objectif commercial et du cadre réglementaire. Le modèle ne peut pas le fixer : c'est une décision de politique, pas une propriété des données.

La théorie de la décision formalise ce passage. On associe à chaque couple action-état un coût, et on choisit l'action qui minimise le coût espéré sous la distribution prédite. Cette formulation rend explicite ce qui reste habituellement implicite, et elle révèle souvent que le seuil optimal est très éloigné du 0,5 par défaut.

Elle met aussi en évidence la valeur de l'abstention. Dans une zone d'incertitude, la meilleure action peut être de ne pas décider et de router vers un humain. Un système qui sait dire « je ne tranche pas » est généralement plus utile qu'un système qui tranche toujours au prix d'erreurs coûteuses.

Optimisation sous contrainte

De nombreux problèmes de décision ne sont pas des problèmes de prédiction : tournées de véhicules, planification d'équipes, affectation de ressources. Ils se formulent comme la maximisation d'un objectif sous un ensemble de contraintes, et se résolvent par programmation linéaire en nombres entiers ou par programmation par contraintes.

L'articulation avec l'apprentissage est féconde : le modèle prédit les paramètres — durées de trajet, demande, disponibilité — et le solveur produit le plan. C'est le schéma prédire-puis-optimiser, largement déployé en logistique. Sa faiblesse est connue : une erreur de prédiction dans une direction que le solveur exploite fortement dégrade la solution bien plus qu'une erreur de même amplitude ailleurs.

Les métaheuristiques prennent le relais lorsque la taille du problème rend la résolution exacte hors de portée. Elles ne garantissent pas l'optimum mais fournissent une bonne solution en temps borné, ce qui est généralement le critère qui compte en exploitation.

Corrélation, causalité, et le piège de la boucle de rétroaction

Un modèle prédictif apprend des corrélations. Tant qu'on se contente d'observer, cela suffit. Dès qu'on agit sur la base de la prédiction, l'action modifie le système et la corrélation apprise peut cesser de valoir.

L'exemple canonique est le modèle de résiliation qui déclenche une offre de rétention. Les clients ciblés résilient moins, donc les données futures suggèrent qu'ils étaient moins à risque, et le modèle réentraîné cesse de les cibler. Le système se dégrade en apprenant de ses propres interventions.

Les réponses relèvent de l'inférence causale : essais contrôlés randomisés, conservation d'un groupe témoin même après déploiement, variables instrumentales quand la randomisation est impossible. Un test A/B correctement mené reste le moyen le plus fiable de mesurer l'effet réel d'une décision automatisée, et le seul qui résiste aux boucles de rétroaction.

Groupe témoin permanent

Fraction du trafic maintenue hors du système automatisé. Coûte quelques points de performance et reste le seul moyen de mesurer la valeur réelle du système dans la durée.

Effet de traitement

Différence entre ce qui s'est produit avec l'action et ce qui se serait produit sans. Non observable directement, d'où le recours à la randomisation.

Expliquer une décision automatisée

Dès qu'une décision produit un effet juridique ou significatif sur une personne, elle doit pouvoir être expliquée. Le RGPD encadre la décision entièrement automatisée, et le règlement européen sur l'IA impose des obligations renforcées aux systèmes classés à haut risque, notamment en matière de documentation, de supervision humaine et de traçabilité.

Les méthodes post-hoc, valeurs de Shapley ou explications locales par substitut linéaire, attribuent une contribution à chaque variable pour une prédiction donnée. Elles sont utiles au diagnostic et au dialogue, mais elles restent des approximations locales : elles n'énoncent pas la règle du modèle, elles décrivent son comportement au voisinage d'un point.

Un modèle intrinsèquement interprétable — régression pénalisée, arbre de faible profondeur, système de règles — évite ce détour. Sur données tabulaires et à enjeu réglementaire, la perte de performance est souvent inférieure à ce qu'on suppose, et le gain en défendabilité considérable. La question à se poser n'est pas « quel est le modèle le plus précis » mais « quelle décision suis-je capable de justifier devant la personne concernée ».

Questions fréquentes