La méthode des moindres carrés consiste à ajuster une droite à un nuage de points en minimisant l'erreur globale entre les points observés et ceux prévus par le modèle. Concrètement, on cherche à trouver une droite d'équation qui réduit la somme des carrés des écarts entre les valeurs observées et les valeurs estimées par le modèle.
I. Principe de la méthode des moindres carrés
Soit un nuage de points et une droite d'équation .
L'idée est de minimiser la somme des carrés des différences entre les valeurs observées et les valeurs prédites par la droite. La somme à minimiser est donc :
Cette somme représente l'erreur globale de l'ajustement. En minimisant cette somme, on obtient les valeurs de et qui rendent la droite la plus proche possible du nuage de points.
II. Interprétation géométrique
La méthode des moindres carrés consiste à ajuster une droite de manière à ce que la somme des carrés des distances entre les points et la droite soit la plus faible possible. En d'autres termes, on cherche à minimiser la somme des carrés des longueurs des segments , où chaque est un point du nuage et est le point de la droite projeté sur le point . Ce critère est d’où provient le nom de « moindres carrés ».
Sur cet exemple, on a voulu ajuster le nuage des points "bleus" par la méthode des moindres carrés. Le fichier tableur nous indique que la somme des carrés des écarts est d'environ 2242 avec une équation du type .
On modifie la droite obtenue afin de minimiser cette somme des carrés des écarts. Celle-ci est désormais de 206,45 avec une équation du type .
Un tableur peut réaliser les calculs afin de trouver coefficient directeur et ordonnée à l'origine de cette droite d'ajustement (appelée également droite de régression).
On obtient alors : avec une différence de la somme des carrés égale à .
III. Calcul des coefficients de la droite de régression
Les coefficients et de la droite d’ajustement peuvent être calculés directement à l’aide d’une calculatrice scientifique, d’un tableur ou encore en résolvant le système d’équations qui provient de la minimisation de la somme des carrés.
En pratique, à l'aide d’un outil comme Excel ou une calculatrice, il est possible de trouver rapidement l’équation de la droite de régression.
IV. Obtenir une droite de régression avec la calculatrice
Casio :
TI :
NumWorks :
IV. Utilité de cette méthode
La méthode des moindres carrés est une méthode puissante pour ajuster des modèles linéaires aux données expérimentales. Elle permet d’obtenir la droite qui minimise l'erreur quadratique entre les données réelles et le modèle. Cette méthode est largement utilisée dans des domaines tels que la statistique, l’analyse de données et la modélisation prédictive.