Qu’est-ce qu’une droite de régression linéaire ?
Réponse courte
C’est une droite y = ax + b qui résume la tendance d’un nuage de couples. La droite des moindres carrés choisit a et b pour minimiser la somme des carrés des écarts verticaux aux points.
Comprendre
Ajuster une tendance
Une série à deux variables associe des couples (xᵢ ; yᵢ). Si le nuage présente une tendance approximativement rectiligne, on peut la résumer par y = ax + b. Pour une abscisse xᵢ, la droite prédit axᵢ + b. Le résidu est l’écart vertical yᵢ − (axᵢ + b) entre la valeur observée et cette prévision.
Le critère des moindres carrés
La droite de régression linéaire des moindres carrés choisit a et b afin de rendre minimale la somme des carrés des résidus. Si Sxx = Σ(xᵢ − x̄)² est non nul et Sxy = Σ(xᵢ − x̄)(yᵢ − ȳ), alors a = Sxy/Sxx et b = ȳ − ax̄. La droite passe par le point moyen G(x̄ ; ȳ). Elle ajuste y en fonction de x ; échanger les axes définit un autre ajustement.
Exemple sur quatre couples
Pour (0 ; 1), (1 ; 2), (2 ; 2), (3 ; 5), on trouve x̄ = 1,5, ȳ = 2,5, Sxx = 5 et Sxy = 6. Donc a = 6/5 = 1,2 et b = 2,5 − 1,2 × 1,5 = 0,7. La droite est y = 1,2x + 0,7. Elle résume le nuage : elle ne prétend pas que chaque observation se trouve exactement dessus.
Exemples
- Pour les couples (0 ; 1), (1 ; 2), (2 ; 2), (3 ; 5), l’ajustement donne y = 1,2x + 0,7 et passe par G(1,5 ; 2,5).
- Pour x = 1,5 dans ce modèle, la valeur estimée est 1,2 × 1,5 + 0,7 = 2,5.
Pièges fréquents
- Minimiser les écarts verticaux au carré n’est pas minimiser les distances les plus courtes entre la droite et les points.
- Inverser l’équation de y en fonction de x ne fournit généralement pas la droite de régression de x en fonction de y.
