Jak modelować mieszaninę 3 norm w PyMC?

Question

Istnieje a question on CrossValidated na temat używania PyMC do dopasowania dwóch normalnych dystrybucji danych. Odpowiedź Cam.Davidson.Pilon było użyć rozkładu Bernoulliego przypisanie danych do jednego z dwóch normalne:

size = 10 
p = Uniform("p", 0 , 1) #this is the fraction that come from mean1 vs mean2 
ber = Bernoulli("ber", p = p, size = size) # produces 1 with proportion p. 
precision = Gamma('precision', alpha=0.1, beta=0.1) 

mean1 = Normal("mean1", 0, 0.001) 
mean2 = Normal("mean2", 0, 0.001) 

@deterministic 
def mean(ber = ber, mean1 = mean1, mean2 = mean2): 
    return ber*mean1 + (1-ber)*mean2 

Teraz moje pytanie brzmi: jak to zrobić z trzy normalne?

Zasadniczo chodzi o to, że nie można korzystać z rozkładu Bernoulliego i 1-Bernoulli więcej. Ale jak to zrobić?

---

edit: z sugestią CDP, napisałem poniższy kod:

import numpy as np 
import pymc as mc 

n = 3 
ndata = 500 

dd = mc.Dirichlet('dd', theta=(1,)*n) 
category = mc.Categorical('category', p=dd, size=ndata) 

precs = mc.Gamma('precs', alpha=0.1, beta=0.1, size=n) 
means = mc.Normal('means', 0, 0.001, size=n) 

@mc.deterministic 
def mean(category=category, means=means): 
    return means[category] 

@mc.deterministic 
def prec(category=category, precs=precs): 
    return precs[category] 

v = np.random.randint(0, n, ndata) 
data = (v==0)*(50+ np.random.randn(ndata)) \ 
     + (v==1)*(-50 + np.random.randn(ndata)) \ 
     + (v==2)*np.random.randn(ndata) 
obs = mc.Normal('obs', mean, prec, value=data, observed = True) 

model = mc.Model({'dd': dd, 
       'category': category, 
       'precs': precs, 
       'means': means, 
       'obs': obs}) 

Ślady z następującą procedurą próbkowania wyglądają dobre. Rozwiązany!

mcmc = mc.MCMC(model) 
mcmc.sample(50000,0) 
mcmc.trace('means').gettrace()[-1,:] 

Answer 1

Istnieje obiekt mc.Categorical, który robi właśnie to.

p = [0.2, 0.3, .5] 
t = mc.Categorical('test', p) 
t.random() 
#array(2, dtype=int32) 

Zwraca int pomiędzy 0 a len(p)-1. Modelować 3 Normals, dokonać p do mc.Dirichlet przedmiot (przyjmuje tablicę k długość jak hiperparametrów, ustawienie wartości w tablicy się to samo ustawienie wcześniejsze prawdopodobieństwa być równe). Reszta modelu jest prawie identyczna.

Jest to uogólnienie modelu zasugerowałem wyżej.

---

Aktualizacja:

Ok, więc zamiast różne środki, możemy zwinąć je wszystkie do 1:

means = Normal("means", 0, 0.001, size=3) 

... 

@mc.deterministic 
def mean(categorical=categorical, means = means): 
    return means[categorical]