Pourquoi une prédiction correcte d’une IA ne prouve-t-elle pas une cause ?

Réponse courte

Une IA peut exploiter une corrélation utile pour prévoir sans identifier le mécanisme qui produit le phénomène. Une prédiction correcte établit une performance dans un contexte donné, pas que la variable utilisée est la cause du résultat.

Comprendre

Corrélation et causalité répondent à deux questions

Une corrélation décrit une variation conjointe de données. Un modèle prédictif peut s’en servir pour estimer une valeur ou une catégorie. Une relation causale affirme qu’une modification d’un facteur contribue à produire un effet, ce qui demande des arguments sur le mécanisme et les autres explications possibles.

Un facteur commun peut expliquer les deux

Par exemple, les ventes de glaces et la fréquentation des piscines peuvent augmenter pendant les périodes chaudes. Une IA pourrait utiliser les ventes pour prévoir la fréquentation, mais acheter une glace n’est pas pour autant la cause de la fréquentation des piscines : la chaleur et la saison influencent les deux phénomènes.

Ce que montre réellement le score

Une prédiction vérifiée sur des données nouvelles renseigne sur la capacité du modèle à prévoir dans une population et une période définies. Pour établir une causalité, il faut examiner le contexte, les facteurs confondants et des données adaptées, parfois issues d’une expérience contrôlée. Même une prédiction souvent juste ne suffit pas à expliquer pourquoi le phénomène se produit.

Exemples

  • La température estivale peut faire augmenter à la fois les ventes de glaces et les baignades ; leur corrélation ne prouve pas que les glaces causent les baignades.
  • Un modèle peut prédire correctement une consommation à partir du jour de la semaine sans démontrer que le jour agit seul : la météo ou les horaires peuvent aussi intervenir.

Pièges fréquents

  • Conclure qu’une variable est la cause parce qu’elle améliore les prédictions : une corrélation ou un facteur commun peut expliquer le résultat.
  • Interpréter un bon score comme une explication universelle : la performance est limitée aux données, à la population et au contexte évalués.

Et maintenant ?

Questions proches

← Toutes les questions-réponses