Qu’est-ce qu’une droite de régression linéaire ?

Réponse courte

C’est une droite y = ax + b qui résume la tendance d’un nuage de couples. La droite des moindres carrés choisit a et b pour minimiser la somme des carrés des écarts verticaux aux points.

Comprendre

Ajuster une tendance

Une série à deux variables associe des couples (xᵢ ; yᵢ). Si le nuage présente une tendance approximativement rectiligne, on peut la résumer par y = ax + b. Pour une abscisse xᵢ, la droite prédit axᵢ + b. Le résidu est l’écart vertical yᵢ − (axᵢ + b) entre la valeur observée et cette prévision.

Le critère des moindres carrés

La droite de régression linéaire des moindres carrés choisit a et b afin de rendre minimale la somme des carrés des résidus. Si Sxx = Σ(xᵢ − x̄)² est non nul et Sxy = Σ(xᵢ − x̄)(yᵢ − ȳ), alors a = Sxy/Sxx et b = ȳ − ax̄. La droite passe par le point moyen G(x̄ ; ȳ). Elle ajuste y en fonction de x ; échanger les axes définit un autre ajustement.

Exemple sur quatre couples

Pour (0 ; 1), (1 ; 2), (2 ; 2), (3 ; 5), on trouve x̄ = 1,5, ȳ = 2,5, Sxx = 5 et Sxy = 6. Donc a = 6/5 = 1,2 et b = 2,5 − 1,2 × 1,5 = 0,7. La droite est y = 1,2x + 0,7. Elle résume le nuage : elle ne prétend pas que chaque observation se trouve exactement dessus.

Exemples

  • Pour les couples (0 ; 1), (1 ; 2), (2 ; 2), (3 ; 5), l’ajustement donne y = 1,2x + 0,7 et passe par G(1,5 ; 2,5).
  • Pour x = 1,5 dans ce modèle, la valeur estimée est 1,2 × 1,5 + 0,7 = 2,5.

Pièges fréquents

  • Minimiser les écarts verticaux au carré n’est pas minimiser les distances les plus courtes entre la droite et les points.
  • Inverser l’équation de y en fonction de x ne fournit généralement pas la droite de régression de x en fonction de y.

Et maintenant ?

Questions proches

← Toutes les questions-réponses