R: W jaki sposób wzmocnione drzewa regresji radzą sobie z brakującymi danymi?

Question

W jaki sposób implementacja R drzew wzmocnionych regresji (pakiet gbm) domyślnie zajmuje się brakującymi wartościami zmiennych predykcyjnych? Czy są one przypisane, a jeśli tak, to według którego algorytmu?

Kontekst mojego pytania: Zrobiłem analizę prawie rok temu i wykorzystałem skrypty dostarczone przez Elith i in. 2008 (Przewodnik po ulepszonych drzewach regresji, Journal of Animal Ecology 77, 802-813) w celu wywołania gbm. Teraz zdałem sobie sprawę, że mam pewne NA dla niektórych zmiennych predykcyjnych i zastanawiam się, jak radzą sobie z nimi wzmocnione drzewa regresji. Przeglądając różne podręczniki i artykuły stwierdziłem, że stwierdzenia takie jak "wzmocnione drzewa regresji mogą pomieścić brakujące wartości" i podobne, ale nie mogłem znaleźć dokładnego opisu, co robi gbm z brakującymi wartościami. Sama analiza przebiegła bezproblemowo, więc gbm musiał poradzić sobie z nimi w taki czy inny sposób. W podręczniku gbm znajduje się nawet przykład, w którym celowo wprowadzono NAs, aby wykazać, że gbm działa bez problemów. Teraz chciałbym wiedzieć, co gbm dokładnie robi z NA (pomiń je, przypisz, ...?).

Answer 1

Funkcja gbm może być użyta do imputacji as described in Jeffrey Wongs blog:. Brakujące wartości otrzymują zastępcze podziały, a użytkownik może następnie uzyskać prognozy dla iems z niepełnymi zestawami predykcyjnymi.

Opracował pakiet oparty na tym podejściu. GitHub repo ma to w nagłówku do jednego z plików dla GBM:

#' GBM Imputation 
#' 
#' Imputation using Boosted Trees 
#' Fill each column by treating it as a regression problem. For each 
#' column i, use boosted regression trees to predict i using all other 
#' columns except i. If the predictor variables also contain missing data, 
#' the gbm function will itself use surrogate variables as substitutes for the predictors. 
#' This imputation function can handle both categorical and numeric data. 

Aby to ja po prostu znaleźć to wpisane w wyszukiwarce Google: jak radzi sobie GBM z brakującymi wartościami. To był dla mnie drugi hit.

https://github.com/jeffwong/imputation/blob/master/R/gbmImpute.R