Modèle linéaire généralisé avec R - Historique des versions

Ccahuzac le 16 juillet 2014 à 08:21

2014-07-16T08:21:45Z

Ccahuzac le 16 juillet 2014 à 08:11

2014-07-16T08:11:20Z

Ccahuzac le 9 juillet 2014 à 12:44

2014-07-09T12:44:01Z

Ccahuzac le 9 juillet 2014 à 12:43

2014-07-09T12:43:34Z

Ccahuzac le 9 juillet 2014 à 12:31

2014-07-09T12:31:40Z

Ccahuzac le 9 juillet 2014 à 11:06

2014-07-09T11:06:50Z

Ccahuzac le 9 juillet 2014 à 09:31

2014-07-09T09:31:17Z

Ccahuzac le 9 juillet 2014 à 08:55

2014-07-09T08:55:11Z

Ccahuzac le 9 juillet 2014 à 08:50

2014-07-09T08:50:09Z

Ccahuzac le 9 juillet 2014 à 08:42

2014-07-09T08:42:28Z

@@ Ligne 130 : / Ligne 130 : @@
 Une autre manière de l'écrire est en utilisant la fonction g (inverse de la fonction lien f) :
 <math>E(am/X)=g(18.87+0.036 \times hp-8.08 \times wt) </math>
-avec g la fonction de répartition de la loi logistique pour le LOGIT (le raisonnement est le même en utilisant la fonction de répartition de la loi Normale centrée réduire pour le PROBIT, ou de n'importe quelle loi associée à un modèle).
+avec g la fonction de répartition de la loi logistique pour le LOGIT (le raisonnement est le même en utilisant la fonction de répartition de la loi Normale centrée réduire pour le PROBIT par exemple ou de n'importe quelle loi associée à un modèle).
-Pour simplifier pour la suite, on note <math> E(am/X)=g(X'b) </math>
+Pour simplifier pour la suite, on note <math> E(am/X)=g(X'b). </math>
 On a donc l'effet marginal de la variable <math> x_{j} </math> (qui peut être wt ou hp)  : <math> \frac{\partial E(am/X)}{\partial x_{j}} = \frac{\partial g(X'b)}{\partial X'b } \times \frac{\partial X'b}{\partial x_{j}}
@@ Ligne 137 : / Ligne 137 : @@
 où f est la fonction de densité de la variable (i.e la fonction lien, ici logistique).
-L'effet marginal (i.e le coefficient associé à un variable) va dépendre des valeurs prises par l'ensemble des variables explicatives, et pas seulement par la variable concernée. Il est d'usage de prendre alors des valeurs moyennes pour les autres variables.
+On constate que l'effet marginal de la j-!ème variable (i.e le coefficient associé à la j-ième variable) va dépendre des valeurs prises par l'ensemble des variables explicatives, et pas seulement de la valeur prise par la variable concernée. Il est d'usage de prendre alors des valeurs moyennes pour les autres variables.<br />
 Par exemple, ci-dessous on calcule l'effet marginal associé à la variable nombres de chevaux (pour un poids moyen de la voiture)
@@ Ligne 143 : / Ligne 144 : @@
 ##interprétation
 #continue
-xavg<-c(1,mean(mtcars$hp),mean(mtcars$wt)) # intercept, valeurs moyenne pour hp, valeur moyenne pour wt
+xavg<-c(1,mean(mtcars$hp),mean(mtcars$wt)) # intercept, valeur moyenne pour hp, valeur moyenne pour wt
 betaLOGIT<-coefficients(regLOGIT)
 betaLOGIT_hp<-betaLOGIT[2] # Coeff associé à hp
@@ Ligne 162 : / Ligne 163 : @@
-Pour illustrer, on introduit une troisième variable dans la régression, qui elle est binaire. La variable vs prend la valeur 1 s'il s'agit d'un moteur de type "V-engine", et 0 s'il s'agit d'un moteur de type "straight engine".
+Pour illustrer, on introduit une troisième variable dans la régression (variable vs), qui elle est binaire. La variable vs prend la valeur 1 s'il s'agit d'un moteur de type "V-engine", et 0 s'il s'agit d'un moteur de type "straight engine".
 <pre>
@@ Ligne 188 : / Ligne 189 : @@
 ==== Prédiction ====
-En revanche, on peut utiliser le modèle pour la prédiction :
+En revanche, il est beaucoup plus facile d'utiliser le modèle pour la prédiction :
 <pre>
 ##Prédiction (modèle logit) :
@@ Ligne 233 : / Ligne 234 : @@
 [[Fichier:regpoisson.png]]
-La fonction de lien étant la fonction log(), on a : <math> log(y) = 0.26 + 0.4717 \times quality +</math> ... <math>+ 0.036 \times costH </math>
+La fonction de lien étant la fonction log(), on a : <math> log(y) = 0.26 + 0.4717 \times quality +</math> ... <math>+ 0.036 \times costH. </math> <br />
 De nouveau predict() va permettre d’estimer le nombre d’excursion pour un propriétaire de bateaux donné (i.e avec des valeurs données pour les variables).
-<math> y_{predict} = exp(0.26 + 0.4717 \times quality_{predict} +</math> ... <math>+ 0.036 \times costH_{predict}) </math>
+<math> y_{predict} = exp(0.26 + 0.4717 \times quality_{predict} +</math> ... <math>+ 0.036 \times costH_{predict}) </math><br />
 De même, on peut aussi extraire la vraissemblance du modèle :

@@ Ligne 67 : / Ligne 67 : @@
 * hp : nombre de chevaux
 * wt : poids
 [[Fichier:datacars.png]]
@@ Ligne 197 : / Ligne 204 : @@
 ==== Application ====
 Le jeu de données utilisé en exemple est « RecreationDemand » contenu dans le package « AER » (à charger au préalable ». Il est composé de 659 observations basée sur un sondage administré à 2000 propriétaires (enregistrés) de bateaux de plaisance dans 23 comtés de l’est du Texas. Il compte 8 variables :

@@ Ligne 222 : / Ligne 222 : @@
 De nouveau predict() va permettre d’estimer le nombre d’excursion pour un propriétaire de bateaux donné (i.e avec des valeurs données pour les variables).
-<math> y_{predict} = exp(0.26 + 0.4717 \times quality_{predict} +</math> ... <math>+ 0.036 \times costH{predict}) </math>
+<math> y_{predict} = exp(0.26 + 0.4717 \times quality_{predict} +</math> ... <math>+ 0.036 \times costH_{predict}) </math>
 De même, on peut aussi extraire la vraissemblance du modèle :

@@ Ligne 219 : / Ligne 219 : @@
 [[Fichier:regpoisson.png]]
-La fonction de lien étant la fonction log(), on a : <math> log(y)=0.26+0.4717 \times quality+ ….. + 0.036 \times costH </math> <br />
+La fonction de lien étant la fonction log(), on a : <math> log(y) = 0.26 + 0.4717 \times quality +</math> ... <math>+ 0.036 \times costH </math>
 De nouveau predict() va permettre d’estimer le nombre d’excursion pour un propriétaire de bateaux donné (i.e avec des valeurs données pour les variables).
-<math> ypredict=exp(0.26+0.4717 \times qualitypredict+ ….. + 0.036 \times costHpredict) </math>
+<math> y_{predict} = exp(0.26 + 0.4717 \times quality_{predict} +</math> ... <math>+ 0.036 \times costH{predict}) </math>
 De même, on peut aussi extraire la vraissemblance du modèle :

@@ Ligne 114 : / Ligne 114 : @@
 ==== Interprétation ====
-De plus, bien que possible, il n’est pas d’usage d’interpréter les coefficients de tels modèles. En effet, en raison de la fonction qui définit la relation entre la variable à expliquer et les variables explicatives, les coefficients présentés dans le tableau précédent n’ont pas de signification en eux-mêmes (sans transformation), et l'effet marginal (i.e le coefficient associé à un variable) va dépendre des valeurs prises par l'ensemble des variables explicatives, et pas seulement par la variable concernée. (A noter qu'il est d'usage de prendre alors des valeurs moyennes pour les autres variables).
+De plus, bien que possible, il n’est pas d’usage d’interpréter les coefficients de tels modèles. En raison de la fonction qui définit la relation entre la variable à expliquer et les variables explicatives, les coefficients présentés dans le tableau précédent n’ont pas de signification en eux-mêmes (sans transformation) :
 En effet, pour le logit la fonction de lien utilisée étant une fonction logistique, on a : <math> f(y)=log(\frac{p}{1-p})=18.87+0.036 \times hp-8.08 \times wt </math> <br />
@@ Ligne 124 : / Ligne 126 : @@
 Pour simplifier pour la suite, on note <math> E(am/X)=g(X'b) </math>
-On a donc <math> \frac{\partial E(am/X)}{\partial xj} = \frac{\partial g(X'b)}{\partial X'b }
+On a donc l'effet marginal de la variable <math> x_{j} </math> (qui peut être wt ou hp)  : <math> \frac{\partial E(am/X)}{\partial x_{j}} = \frac{\partial g(X'b)}{\partial X'b } \times \frac{\partial X'b}{\partial x_{j}}
-===== Variable continue =====
+L'effet marginal (i.e le coefficient associé à un variable) va dépendre des valeurs prises par l'ensemble des variables explicatives, et pas seulement par la variable concernée. Il est d'usage de prendre alors des valeurs moyennes pour les autres variables.
 <pre>
 ##interprétation
 #continue
-xavg<-c(1,mean(mtcars$hp),mean(mtcars$wt)) # valeurs moyennes pour wt et hp
+xavg<-c(1,mean(mtcars$hp),mean(mtcars$wt)) # intercept, valeurs moyenne pour hp, valeur moyenne pour wt
 betaLOGIT<-coefficients(regLOGIT)
 betaLOGIT_hp<-betaLOGIT[2] # Coeff associé à hp
@@ Ligne 138 : / Ligne 143 : @@
 print(MEhp) #0.0043
 </pre>
 chevaux en plus sur la voiture augmente donc la probabilité d'avoir une boîte manuelle de 4,3 points de pourcentage, toutes choses égales par ailleurs, et pour une voiture ayant un poids moyen.
 <pre>
@@ Ligne 150 : / Ligne 166 : @@
 x0<-c(1,0,mean(mtcars$hp),mean(mtcars$wt)) # vs=0
-p1<-plogis(betaLOGIT3%*%x1)
+p1<-plogis(betaLOGIT3%*%x1) #proba si vs=1
-p0<-plogis(betaLOGIT3%*%x0)
+p0<-plogis(betaLOGIT3%*%x0) #proba si vs=0
 print(MEvs) #baisse de 26,5 pts de pourcentage
 </pre>
 Avoir un moteur de type "V-engine" augmente donc la probabilité pour la voiture d'avoir une boîte manuelle de 26,5 points de pourcentage comparé à une voiture ayant un moteur de type "straight engine" ;  toutes choses égales par ailleurs, et pour une voiture ayant un poids et un nombre de chevaux moyens.
@@ Ligne 200 : / Ligne 219 : @@
 [[Fichier:regpoisson.png]]
-La fonction de lien étant la fonction log(), on a : <math> log(y)=0.26+0.4717 \times quality+ ….. + 0.036 \times costH </math><br />
+La fonction de lien étant la fonction log(), on a : <math> log(y)=0.26+0.4717 \times quality+ ….. + 0.036 \times costH </math> <br />
 De nouveau predict() va permettre d’estimer le nombre d’excursion pour un propriétaire de bateaux donné (i.e avec des valeurs données pour les variables).

@@ Ligne 67 : / Ligne 67 : @@
 * hp : nombre de chevaux
 * wt : poids
 On souhaite déterminer si la probabilité pour une voiture d’être dotée d’une boîte à vitesses manuelle (variable am) dépend où non du nombre de chevaux (variable hp) et de son poids (variable wt).
@@ Ligne 97 : / Ligne 99 : @@
 * fitted() pour extraire les valeurs estimées
 * resid() pour extraire les résidus.
 Comme le modèle est estimé par maximum de vraisemblance, il peut être utile d’extraire la vraisemblance du modèle, avec la fonction logLik() (NB : Cela est aussi possible pour un objet de classe lm, mais peu utilisé)
@@ Ligne 138 : / Ligne 144 : @@
 * costS : Dépenses (en dollars) quand il a visité le lac Somerville
 * costH : Dépenses (en dollars) quand il a visité le lac Houston
 On souhaite expliquer le nombre d’excursions en fonction des autres variables. Comme il s’agit de données de comptage, on utilise le modèle de Poisson :
@@ Ligne 154 : / Ligne 162 : @@
 <math> ypredict=exp(0.26+0.4717 \times qualitypredict+ ….. + 0.036 \times costHpredict) </math>
 ==== Overdispersion ====

@@ Ligne 63 : / Ligne 63 : @@
 ==== Application : modèle ====
-Pour illuster, on utilise le jeu de données contenu dans R : mtcars, qui contient 32 observations et 11 variables.
+Pour illuster, on utilise le jeu de données contenu dans R : mtcars, qui contient 32 observations et 11 variables, dont 3 variables qui vont nous intéresser :
 On souhaite déterminer si la probabilité pour une voiture d’être dotée d’une boîte à vitesses manuelle (variable am) dépend où non du nombre de chevaux (variable hp) et de son poids (variable wt).
 On a un exemple ici où le modèle linéaire général peut produire une valeur estimée de cette probabilité (p=E(am/wt,hp)) ou des effets marginaux hors de l’intervalle [0,1].
@@ Ligne 73 : / Ligne 77 : @@
 summary(regLOGIT)
 </pre>
 <pre>
@@ Ligne 80 : / Ligne 86 : @@
 summary(regPROBIT)
 </pre>
 ==== Fonction (affichage, extraction,..) ====
@@ Ligne 96 : / Ligne 104 : @@
 logLik(regLOGIT)
 </pre>
 ==== Interprétation et prédiction ====
@@ Ligne 108 : / Ligne 118 : @@
 predict(regLOGIT, newdata=data.frame(hp=100,wt=2.88), type="response")
 </pre>
 Une voiture avec une puissance de 100 chevaux et un poids de 2.88 lb/1000 va donc avoir une probabilité estimée d’être équipée d’une boîte manuelle de 31% environ.

@@ Ligne 57 : / Ligne 57 : @@
 Il est sont l’un des usages les plus courants de la fonction glm().
 Il sont utilisés lorsque la variable à expliquer est de type binaire, et que les variables explicatives sont continues ou binaires. Tous deux utilisent une loi binomiale (family). <br />
-<math> Y=g(b0+b1 \times x1 +b2 \times x2 +....)</math><br />
+<center> <math> Y=g(b0+b1 \times x1 +b2 \times x2 +....)</math><br /> </center>
 L'inverse de la fonction de lien (notée g précédemment) peut être une loi logistique (ce qui donne un modèle LOGIT) ou celle de la loi Normale centrée réduite (modèle PROBIT). A noter que le modèle LOGIT est aujourd’hui le plus utilisé (l’avantage initial du PROBIT était la fonction de lien plus « simple » à calculer à la main, ce qui n’est plus important aujourd’hui avec l’utilisation de logiciels).<br />
@@ Ligne 98 : / Ligne 98 : @@
 ==== Interprétation et prédiction ====
-De plus, bien que possible, il n’est pas d’usage d’interpréter les coefficients de tels modèles. En effet, en raison de la fonction qui définit la relation entre la variable à expliquer et les variables explicatives, les coefficients présentés dans le tableau précédent n’ont pas de signification en eux-mêmes, sans transformation.
+De plus, bien que possible, il n’est pas d’usage d’interpréter les coefficients de tels modèles. En effet, en raison de la fonction qui définit la relation entre la variable à expliquer et les variables explicatives, les coefficients présentés dans le tableau précédent n’ont pas de signification en eux-mêmes (sans transformation), et l'effet marginal (i.e le coefficient associé à un variable) va dépendre des valeurs prises par l'ensemble des variables explicatives, et pas seulement par la variable concernée. (A noter qu'il est d'usage de prendre alors des valeurs moyennes pour les autres variables).
-Pour le logit, la fonction de lien utilisée est une fonction logistique : <math> f(y)=log(\frac{p}{1-p})=18.87+0.036 \times hp-8.08 \times wt </math> <br />
+En effet, pour le logit la fonction de lien utilisée étant une fonction logistique, on a : <math> f(y)=log(\frac{p}{1-p})=18.87+0.036 \times hp-8.08 \times wt </math> <br />
 où p = probabilité pour la voiture d'être dotée d'un boîte de vitesses manuelles (P(am)=1).<br />
 ##Prédiction (modèle logit) :
 predict(regLOGIT, newdata=data.frame(hp=100,wt=2.88), type="response")
 Une voiture avec une puissance de 100 chevaux et un poids de 2.88 lb/1000 va donc avoir une probabilité estimée d’être équipée d’une boîte manuelle de 31% environ.