Wybieranie statystycznie istotnych zmiennych w modelu RIMM

Question

Mam zmienną wynikową, powiedzmy Y i listę 100 wymiarów, które mogą wpływać na Y (np. X1 ... X100).

Po uruchomieniu mojego glm i przejrzeniu podsumowania mojego modelu, widzę te zmienne, które są statystycznie istotne. Chciałbym móc wybrać te zmienne i uruchomić inny model i porównać wydajność. Czy istnieje sposób, w jaki mogę przeanalizować podsumowanie modelu i wybrać tylko te, które są znaczące?

Answer 1

Możesz uzyskać dostęp do wartości pseudonimu glm poprzez funkcję "podsumowanie". Ostatnia kolumna macierzy współczynników nosi nazwę "Pr (> | t |)" i przechowuje wartości p czynników używanych w modelu.

Oto przykład:

#x is a 10 x 3 matrix 
x = matrix(rnorm(3*10), ncol=3) 
y = rnorm(10) 
res = glm(y~x) 
#ignore the intercept pval 
summary(res)$coeff[-1,4] < 0.05 

Answer 2

Chociaż @kith utorował drogę, tam jest więcej, co można zrobić. W rzeczywistości cały proces może być zautomatyzowany. Najpierw stwórzmy jakieś dane:

x1 <- rnorm(10) 
x2 <- rnorm(10) 
x3 <- rnorm(10) 
y <- rnorm(10) 
x4 <- y + 5 # this will make a nice significant variable to test our code 
(mydata <- as.data.frame(cbind(x1,x2,x3,x4,y))) 

Nasz model jest następnie:

model <- glm(formula=y~x1+x2+x3+x4,data=mydata) 

A Boolean wektor współczynników może być rzeczywiście ekstrakcji przez:

toselect.x <- summary(model)$coeff[-1,4] < 0.05 # credit to kith 

Ale to nie jest wszystko! Ponadto, możemy to zrobić:

# select sig. variables 
relevant.x <- names(toselect.x)[toselect.x == TRUE] 
# formula with only sig variables 
sig.formula <- as.formula(paste("y ~",relevant.x)) 

EDIT: jako kolejne plakaty podkreśliło, druga linia powinna być sig.formula <- as.formula(paste("y ~",paste(relevant.x, collapse= "+"))) obejmować wszystkie zmienne.

i uruchomić regresji ze zmiennymi jak tylko znaczących OP początkowo chciał:

sig.model <- glm(formula=sig.formula,data=mydata) 

W tym przypadku oszacowanie będzie równa 1 jak zdefiniowano x4 jako Y + 5, co oznacza, idealny związek.

Answer 3

w

sig.formula < - as.formula (paste ("y ~", relevant.x))

wklejeniu tylko pierwszą zmienną relevant.x pozostałe są ignorowane (spróbuj na przykład, aby odwrócić warunek do> 0,5)

Answer 4

dla osób mających problem z poleceniem Maxim.K na

sig.formula <- as.formula(paste("y ~",relevant.x)) 

stosowania tej

sig.formula <- as.formula(paste("y ~",paste(relevant.x, collapse= "+"))) 

kody końcowe będzie jak

toselect.x <- summary(glmText)$coeff[-1,4] < 0.05 # credit to kith 
# select sig. variables 
relevant.x <- names(toselect.x)[toselect.x == TRUE] 
# formula with only sig variables 
sig.formula <- as.formula(paste("y ~",paste(relevant.x, collapse= "+"))) 

to rozwiązuje problem masz z widokiem z wybieraniem samej pierwszej zmiennej.