zastanawiasz się, czy klasyfikator Bayesa jest właściwym podejściem?

Question

Zastanawiam się, czy klasyfikator Bayesa ma sens w przypadku aplikacji, w której to samo wyrażenie "podawane na zimno" (na przykład) jest "dobre", gdy powiązane są pewne rzeczy (piwo, napój gazowany), ale "złe", gdy są powiązane z innymi rzeczami (stek, pizza, burger)?

Zastanawiam się, czy szkolenie klasyfikatora Bayesa ("zimne piwo" i "zimne napoje gazowane" są "dobre") anuluje szkolenie, że "stek podawany na zimno" i "burger podany na zimno" są "złe" ").

Czy można nauczyć Bayesa, że ​​"podawane na zimno" może być "dobre" lub "złe" w zależności od tego, z czym jest związane?

Znalazłem wiele dobrych informacji na temat Bayesa, tutaj i gdzie indziej, ale nie byłem w stanie określić, czy jest odpowiedni dla tego typu aplikacji, w których odpowiedź na frazę jest dobra lub zła, "zależy od"?

Answer 1

A Naive Bayes classifier zakłada niezależność między atrybutami. Na przykład załóżmy, że masz następujące dane:

owoców jabłoni czerwone BAD
jabłko owoc BAD
banan owoc żółty DOBRY
pomidor czerwony DOBRY

Niezależność oznacza, że ​​atrybuty (nazwa, owoce, kolor) są niezależne; na przykład, że "jabłko" może być "owocem" lub "warzywem". W tym przypadku atrybuty "nazwa" i "owoc" są zależne, więc klasyfikator Naive Bayes jest zbyt naiwny (najprawdopodobniej klasyfikowałby "żółty owoc jabłoni" jako ZŁY, ponieważ jest to jabłko I to jest owoc - ale nie wszystkie jabłka owoce?).

Aby odpowiedzieć na twoje pierwotne pytanie, Klasyfikator Naive Bayes zakłada, że ​​klasa (DOBRA lub ZŁA) zależy od każdego atrybutu niezależnie, co nie jest prawdą - Lubię moją pizzę gorącą i moją zimną wodę.

EDYCJA: Jeśli szukasz klasyfikatora, który ma pewną użyteczność, ale teoretycznie może mieć wiele błędów typu I i typu II, Naive Bayes jest takim klasyfikatorem. Naive Bayes jest lepszy niż nic, ale przy użyciu mniej naiwnego klasyfikatora jest wymierna wartość.

Answer 2

Nie odrzuciłbym Bayesa tak szybko, jak sugerował Daniel. Jakość (wydajność w matematyce) Bayesa zależy przede wszystkim od ilości i jakości danych treningowych, a także od założeń przy tworzeniu algorytmu.

Aby podać krótki przykład, jeśli dodasz do niego tylko {"zimne piwo" => dobre, "zimne pizze" =>: złe} słowo "zimny" nie wpłynie na klasyfikację. Po prostu zdecyduje, że wszystkie piwa są dobre, a wszystkie pizze są złe (zobacz, jak sprytnie jest? :))

W każdym razie odpowiedź jest zbyt krótka, aby wyjaśnić to szczegółowo, polecam przeczytanie eseju Paula Grahama opracował swój filtr antyspamowy - zauważ, że stworzył własny algorytm oparty na Bayesie, a nie na zwykłym klasyfikatorze. W moim (do tej pory krótkim) doświadczeniu wydaje się, że lepiej podążać za nim w opracowywaniu konkretnej wersji algorytmu dla konkretnego problemu, aby mieć kontrolę nad różnymi założeniami specyficznymi dla danej domeny.

Możesz śledzić moje próby (w Ruby) tutaj, jeśli jesteś zainteresowany: http://arubyguy.com/2011/03/03/bayes-classification-update/