L'essentiel
- C'est une procédure automatique de sélection de variables.
- Elle permet de simplifier les modèles complexes.
- Elle existe sous deux formes : ascendante (on ajoute des variables) ou descendante (on en retire).
Définition
La régression pas à pas est une méthode statistique utilisée pour construire un modèle de prévision en sélectionnant automatiquement les variables les plus pertinentes une par une. Imaginez que vous voulez deviner le prix d'un appartement : vous testez d'abord la surface, puis si cela ne suffit pas, vous ajoutez la présence d'un balcon, puis le quartier, en ne gardant à chaque étape que ce qui améliore vraiment la précision de votre estimation.
Origine du terme
Le terme vient de l'assemblage de « régression » (du latin regressio, action de revenir en arrière pour établir une relation entre des données) et de la locution « pas à pas », qui souligne le caractère progressif et itératif de la méthode. En anglais, on parle de stepwise regression.
Exemple concret
- Une banque qui cherche à identifier les 3 ou 4 critères les plus déterminants pour accorder un crédit parmi des dizaines de données clients (revenus, âge, profession, historique).
- Un économiste qui teste quelles matières premières influencent réellement le taux d'inflation sur une période donnée en les ajoutant successivement au modèle.
Comment ça se calcule
Ce concept intervient principalement en économétrie et en science des données lorsqu'on dispose d'un grand nombre de variables explicatives potentielles et que l'on souhaite simplifier le modèle pour ne garder que les facteurs ayant un impact réel et significatif.
Causes
Il faut rester vigilant : cette méthode est purement mathématique. Une variable peut être statistiquement pertinente sans avoir de sens logique économique. Il est recommandé de toujours confronter les résultats de la machine avec la théorie économique pour éviter les corrélations trompeuses (le « surapprentissage »).
Notions liées
À ne pas confondre
Conséquences
Si vous débutez, utilisez cette méthode pour dégager des tendances dans de gros volumes de données, mais ne la considérez jamais comme une vérité absolue. C'est une aide à la décision, pas un remplaçant de l'analyse économique.
Questions fréquentes
Quelle est la différence entre la sélection ascendante et descendante ?
La sélection ascendante part d'un modèle vide et ajoute les variables les plus utiles. La sélection descendante part d'un modèle complet avec toutes les variables et retire celles qui sont les moins performantes.
Est-ce une méthode infaillible ?
Non, car elle repose sur des critères statistiques qui peuvent parfois ignorer des relations complexes entre les variables que seul un expert humain pourrait déceler.