Regression linéaire avec R - Historique des versions

193.50.159.59 : /* Regression linéaire simple */

2019-01-24T14:28:00Z

‎Regression linéaire simple

193.50.159.59 : /* Regression linéaire simple */

2019-01-24T14:27:38Z

‎Regression linéaire simple

Lnikitine le 7 septembre 2017 à 12:34

2017-09-07T12:34:22Z

Ccahuzac le 16 juillet 2014 à 07:55

2014-07-16T07:55:26Z

Ccahuzac le 16 juillet 2014 à 07:49

2014-07-16T07:49:40Z

Ccahuzac le 16 juillet 2014 à 07:39

2014-07-16T07:39:37Z

Ccahuzac le 16 juillet 2014 à 07:34

2014-07-16T07:34:46Z

Ccahuzac le 15 juillet 2014 à 16:23

2014-07-15T16:23:31Z

Ccahuzac le 15 juillet 2014 à 16:07

2014-07-15T16:07:27Z

Ccahuzac le 15 juillet 2014 à 11:15

2014-07-15T11:15:35Z

@@ Ligne 38 : / Ligne 38 : @@
 === Regression linéaire simple ===
-Dans ce cas, on considère une seule variable explicative. Ici, on souhait donc estimer les coefficients du modèle :<math> sale.price = b0 + b1 \times area + e </math>
+Dans ce cas, on considère une seule variable explicative. Ici, on souhaite donc estimer les coefficients du modèle :<math> sale.price = b0 + b1 \times area + e </math>
 La commande à utiliser dans R est : lm()

@@ Ligne 38 : / Ligne 38 : @@
 === Regression linéaire simple ===
-Dans ce cas, on considère une seule variable explicative. Ici, on souhaite donc estimer les coefficients du modèle :<math> sale.price = b0 + b1 \times area + e </math>
+Dans ce cas, on considère une seule variable explicative. Ici, on souhait donc estimer les coefficients du modèle :<math> sale.price = b0 + b1 \times area + e </math>
 La commande à utiliser dans R est : lm()
@@ Ligne 58 : / Ligne 58 : @@
 [[Fichier:droitereg.png]]
 === Regression linéaire multiple ===

← Version précédente		Version du 7 septembre 2017 à 12:34
Ligne 237 :		Ligne 237 :

	Ainsi, le prix estimé d’une maison dont la surface au sol est de 800 unités et qui a 2 chambres serait de 88.92 mille dollars.		Ainsi, le prix estimé d’une maison dont la surface au sol est de 800 unités et qui a 2 chambres serait de 88.92 mille dollars.
		+
		+
		+
		+	[[Category:Aides statistiques]]

@@ Ligne 182 : / Ligne 182 : @@
 ==== Interprétation des coefficients ====
 ===== Significativité =====
-Avant d'interpréter un coefficient (sens, magnitude de l'effet), il convient de s'assurer que celui ci est significatif, autrement dit, qu'il est significativement différent de zéro (H0, soit une absence d'effet). Pour cela on utilise un test de Student. On calcule la statistique t pour chaque variable : <math> t calculee= \frac{coefficient}{ecart type} </math>, assumée suivre une loi de Student ; que l'on compare ensuite avec la valeur théorique issue d'une table de Student (déterminée par le niveau du test, et la nombre d'observations).
+Avant d'interpréter un coefficient (sens, magnitude de l'effet), il convient de s'assurer que celui ci est significatif, autrement dit, qu'il est significativement différent de zéro (H0, soit une absence d'effet). Pour cela on utilise un test de Student. On calcule la statistique t pour chaque variable : <math> t_{x}= \frac{coefficient_{x}}{ecart type_{x}} </math>, assumée suivre une loi de Student ; que l'on compare ensuite avec la valeur théorique issue d'une table de Student (déterminée par le niveau du test, et la nombre d'observations).
 [[Fichier:ttest_theorie.png]]

@@ Ligne 182 : / Ligne 182 : @@
 ==== Interprétation des coefficients ====
 ===== Significativité =====
-Avant d'interpréter un coefficient (sens, magnitude de l'effet), il convient de s'assurer que celui ci est significatif, autrement dit, qu'il est significativement différent de zéro (H0, soit une absence d'effet). Pour cela on utilise un test de Student. On calcule la statistique t pour chaque variable : <math> t_calculée= \frac{coefficient}{écart-type} </math>, assumée suivre une loi de Student ; que l'on compare ensuite avec la valeur théorique issue d'une table de Student (déterminée par le niveau du test, et la nombre d'observations).
+Avant d'interpréter un coefficient (sens, magnitude de l'effet), il convient de s'assurer que celui ci est significatif, autrement dit, qu'il est significativement différent de zéro (H0, soit une absence d'effet). Pour cela on utilise un test de Student. On calcule la statistique t pour chaque variable : <math> t calculee= \frac{coefficient}{ecart type} </math>, assumée suivre une loi de Student ; que l'on compare ensuite avec la valeur théorique issue d'une table de Student (déterminée par le niveau du test, et la nombre d'observations).
 On utilise souvent un niveau de 5% (soit un intervalle de confiance de 95%). Si la t-value calculée est supérieure (en valeur absolue) à la valeur théorique déterminée, alors on rejète H0 : Le coefficient est bien significativement différent de zéro, et on peut l'interpréter (signe, magnitude,..). Un autre moyen de réaliser le test est de regarder la p-value associée au coefficient, soit la probabilité pour que la valeur t-calculée sit supérieur en valeur absolue à la valeur théorique. Si cette probabilité est inférieur au seuil utilisé (ici 5%), alors le coefficient est significatif.<br />
@@ Ligne 191 : / Ligne 194 : @@
 ===== Signe du coefficient =====
 Avec un modèle linéaire, le signe du coefficient associé à une variable indique le sens de l'effet de cette variable sur la variable à expliquer. Par exemple, ici les coefficients de area et bedrooms sont positifs ; cela signifie que toutes choses égales par ailleurs (i.e nombre de chambres constant), augmenter la surface de la maison va avoir tendance à faire augmenter son prix. De même, augmenter le nombre de chambres de la maison, à surface constante va avoir tendance à augmenter son prix.<br />
 ===== Magnitude du coefficient =====
@@ Ligne 213 : / Ligne 218 : @@
 Formellement : <math> R^2_{adjusted} = 1 - \frac{SSR/n-k}{SST/n-1} </math>
-[[Fichier:coeff_signif.png]]
+[[Fichier:R2.png]]
 Ici, il est de 69%, ce qui est plus que correct.<br />

@@ Ligne 185 : / Ligne 185 : @@
 On utilise souvent un niveau de 5% (soit un intervalle de confiance de 95%). Si la t-value calculée est supérieure (en valeur absolue) à la valeur théorique déterminée, alors on rejète H0 : Le coefficient est bien significativement différent de zéro, et on peut l'interpréter (signe, magnitude,..). Un autre moyen de réaliser le test est de regarder la p-value associée au coefficient, soit la probabilité pour que la valeur t-calculée sit supérieur en valeur absolue à la valeur théorique. Si cette probabilité est inférieur au seuil utilisé (ici 5%), alors le coefficient est significatif.<br />
-Ci-dessous, on constate que le les deux coefficients sont bien significatifs, on va donc pouvoir les interpréter.
+Ci-dessous, on constate que les deux coefficients sont bien significatifs, on va donc pouvoir les interpréter.
 ===== Signe du coefficient =====
@@ Ligne 203 : / Ligne 205 : @@
 ==== Qualité du modèle ====
-Enfin, on peut regarder la qualité de la régression (au regard des données), mesurée par le coefficient de détermination (R-Squared ou R2). Il se définit comme la part de variation dans la variable à expliquer qui est expliquée par les variations dans les variables explicatives (souvent exprimé en %)
+Enfin, on peut regarder la qualité de la régression (au regard des données), mesurée par le coefficient de détermination (R-Squared ou R2), qui se définit comme la part de variation dans la variable y qui est expliquée par des variations dans les variables explicatives (souvent exprimé en %).
-<math> R^2 = 1 - \frac{SSR}{SST} </math> où SSR représente la somme des carrés des résidus et SST la somme des écarts à la moyenne des valeurs observées.
+Formellement : <math> R^2_{adjusted} = 1 - \frac{SSR/n-k}{SST/n-1} </math>
-Plus sa valeur est proche de 1, et plus l'adéquation entre le modèle et les données observées va être forte. Cependant, cette valeur est influencée, entre autres par le nombre de variables explicatives incluses dans la regression. Le R2 ajusté (Adjusted R-Squared) va tenir compte de celui-ci et est donc plus correct.
+Ici, il est de 69%, ce qui est plus que correct.<br />
-Attention également, même si il n'existe pas de règle, avec une échelle précise indiquant pour quelles valeurs du R2, la qualité doit être considérée "mauvaise", "excellente", etc, une valeur trop élevée (R2 ou R2 ajusté supérieurs à 85%) peut cacher un grave problème (notamment d'endogénéité), et donc des résultats totalement erronés.
+Attention également, même si il n'existe aucune règle, ni aucune échelle précise qui indiquerait pour quelles valeurs du R2, la qualité doit être considérée "mauvaise" ou au contraire comme "excellente",  une valeur trop élevée (R2 ou R2 ajusté supérieurs à 85%) peut cacher un grave problème (notamment d'endogénéité), et donc des résultats totalement erronés.
-De plus, il n'est bien souvent pas possible d'atteindre des valeurs jugées "satisfaisantes", en raison des données à disposition pour l'analyse, et il n'est donc pas rare que l'économètre doive se contenter d'un R2 de suelement 40% (voire 30%) ! Ici notre 70% est donc plus que covenable, et la recherche d'un R2 élevé ne doit pas être un but en soi..
+De plus, il n'est bien souvent pas possible d'atteindre des valeurs jugées "satisfaisantes", en raison des données à disposition pour l'analyse ; et il n'est donc pas rare que l'économètre doive se contenter d'un R2 de "seulement" 40% par exemple (voire 30%) ! Ici notre 70% est donc plus que convenable, et la recherche d'un R2 élevé ne doit pas être un but en soi..
 ==== Predict ====

@@ Ligne 192 : / Ligne 192 : @@
 ===== Magnitude du coefficient =====
 Dans un modèle linéaire basique, on peut interpréter le coefficient associé à la variable x (<math> \beta_{x} </math> comme l'effet de x sur y (variable à expliquer) de la manière suivante : "Toutes choses égales par ailleurs, augmenter x de 1unité (de x) va augmenter/diminuer y de <math> \beta_{x} </math> unités (de y)."
- Par exemple ici :
-Toutes choses égales par ailleurs (i.e nombre de chambres constant), augmenter la surface de la maison de 100 mètres carrés (assumons qu'il s'agit de l'unité de mesure pour la variable surface) va augmenter son prix en moyenne de 14,5 dollars. De même, une chambre supplémentaire, à surface constante, va augmenter le prix de la maison de 58.3 dollars en moyenne.<br />
+Par exemple ici : Toutes choses égales par ailleurs (i.e nombre de chambres constant), augmenter la surface de la maison de 100 mètres carrés (assumons qu'il s'agit de l'unité de mesure pour la variable surface) va augmenter son prix en moyenne de 14,5 dollars. De même, une chambre supplémentaire, à surface constante, va augmenter le prix de la maison de 58.3 dollars en moyenne.<br />
 Cependant, l'interprétation de la magnitude des coefficients va dépendre de la transformation préalable des variables. Notamment, il est courant d'utiliser le logarithme de la variable à expliquer Et/ou de la variable explicative (souvent pour gommer des problèmes d'hétéroscédasticité). On distingue ainsi 4 cas :
@@ Ligne 201 : / Ligne 201 : @@
 * log(y) ~ log(x) : "Toutes choses égales par ailleurs, augmenter x %  va augmenter/diminuer y de <math> \beta_{x} </math> %)." En d'autres termes, <math> \beta_{x} </math> représente l'élasticité de y par rapport à la variable x.
 ==== Predict ====

@@ Ligne 108 : / Ligne 108 : @@
 fitted(pricereg2)
 </pre>
 ==== Residuals ====
-resid() permet d’extraire les résidus (Valeur prédite - Vraie valeur-.
+resid() permet d’extraire les résidus (Valeur prédite - Valeur réelle).
 <pre>#### Extraction des résidus
 resid(pricereg2)
@@ Ligne 117 : / Ligne 119 : @@
 [[Fichier:reglinres.png]]
-On p
+Plusieurs hypothèses sous-jacentes au modèle de regression linéaire portent sur les résidus de la regression : indépendance, homoscédasticité (même variance) et normalité. On peut représenter graphiquement les résidus, afin d'observer si ces conditions sont (plus ou moins) respectées. Par exemple, on peut tracer :
-[[Fichier:reglinfitted.png]]
+* les rédidus en ordonnées
 ==== Predict ====

@@ Ligne 6 : / Ligne 6 : @@
 * bedrooms = nombre de chambres dans la maison
-<pre>#### Package DAAG
+<pre>#### Installe + charge le package DAAG
 install.packages("DAAG")
 library(DAAG)
 head(houseprices)
 </pre>
@@ Ligne 97 : / Ligne 101 : @@
 [[Fichier:reglinconfint.png]]
 ==== Residuals ====
-resid() permet d’extraire les résidus.
+resid() permet d’extraire les résidus (Valeur prédite - Vraie valeur-.
 <pre>#### Extraction des résidus
 resid(pricereg2)
@@ Ligne 106 : / Ligne 117 : @@
 [[Fichier:reglinres.png]]
-==== Fitted ====
+On p
 [[Fichier:reglinfitted.png]]