Próbowałem przez kilka godzin, aby obliczyć Entropy i wiem, że czegoś brakuje. Mam nadzieję, że ktoś tutaj da mi pomysł!Obliczanie entropii
EDYCJA: Myślę, że moja formuła jest zła!
KOD:
info <- function(CLASS.FREQ){
freq.class <- CLASS.FREQ
info <- 0
for(i in 1:length(freq.class)){
if(freq.class[[i]] != 0){ # zero check in class
entropy <- -sum(freq.class[[i]] * log2(freq.class[[i]])) #I calculate the entropy for each class i here
}else{
entropy <- 0
}
info <- info + entropy # sum up entropy from all classes
}
return(info)
}
Mam nadzieję, że mój post jest jasne, ponieważ jest to pierwszy raz, kiedy rzeczywiście pisać tutaj.
To mój zestaw danych:
buys <- c("no", "no", "yes", "yes", "yes", "no", "yes", "no", "yes", "yes", "yes", "yes", "yes", "no")
credit <- c("fair", "excellent", "fair", "fair", "fair", "excellent", "excellent", "fair", "fair", "fair", "excellent", "excellent", "fair", "excellent")
student <- c("no", "no", "no","no", "yes", "yes", "yes", "no", "yes", "yes", "yes", "no", "yes", "no")
income <- c("high", "high", "high", "medium", "low", "low", "low", "medium", "low", "medium", "medium", "medium", "high", "medium")
age <- c(25, 27, 35, 41, 48, 42, 36, 29, 26, 45, 23, 33, 37, 44) # we change the age from categorical to numeric
Jak na ironię, im gorsze obliczenia, tym bliższa jest odpowiedź. – Strawberry
Dobrze byłoby opublikować (a) formułę, która Twoim zdaniem jest właściwa, oraz (b) próbkę typu danych, które będą podawane do tej funkcji. Używanie 'dput()' to świetny sposób na udostępnianie danych. – Gregor
Jakiej odpowiedzi oczekujesz? Twój kod działa bezbłędnie i poprawnie oblicza entropię shannon. – cdeterman