Sklearn: Czy istnieje sposób debugowania rurociągów?

Question

Utworzyłem niektóre potoki dla zadania klasyfikacji i chcę sprawdzić, jakie informacje są obecne/przechowywane na każdym etapie (np. Text_stats, ngram_tfidf). Jak mogłem to zrobić.

pipeline = Pipeline([ 
    ('features',FeatureUnion([ 
       ('text_stats', Pipeline([ 
          ('length',TextStats()), 
          ('vect', DictVectorizer()) 
         ])), 
       ('ngram_tfidf',Pipeline([ 
          ('count_vect', CountVectorizer(tokenizer=tokenize_bigram_stem,stop_words=stopwords)), 
          ('tfidf', TfidfTransformer()) 
         ])) 
      ])), 
    ('classifier',MultinomialNB(alpha=0.1)) 
]) 

Answer 1

Możesz przechodzić drzewo Pipeline() użyciu steps i named_steps atrybuty. Były to lista krotek ('step_name', Step()) a drugi daje słownika skonstruowaną z tej listy

FeatureUnion() zawartość mogła zostać zbadane w ten sam sposób przy użyciu atrybutu transformer_list

Answer 2

znajdę go czasami przydatnych tymczasowo dodać krok debugowania który drukuje informacje, którymi jesteś zainteresowany. W oparciu o przykład ze skleardzkiego przykładu 1, możesz to zrobić, aby na przykład wydrukować pierwsze 5 linii, kształt lub cokolwiek, co musisz obejrzeć przed klasyfikatorem pod nazwą:

from sklearn import svm 
from sklearn.datasets import samples_generator 
from sklearn.feature_selection import SelectKBest 
from sklearn.feature_selection import f_regression 
from sklearn.pipeline import Pipeline 
from sklearn.base import TransformerMixin, BaseEstimator 

class Debug(BaseEstimator, TransformerMixin): 

    def transform(self, X): 
     print(pd.DataFrame(X).head()) 
     print(X.shape) 
     return X 

    def fit(self, X, y=None, **fit_params): 
     return self 

X, y = samples_generator.make_classification(n_informative=5, n_redundant=0, random_state=42) 
anova_filter = SelectKBest(f_regression, k=5) 
clf = svm.SVC(kernel='linear') 
anova_svm = Pipeline([('anova', anova_filter), ('dbg', Debug()), ('svc', clf)]) 
anova_svm.set_params(anova__k=10, svc__C=.1).fit(X, y) 

prediction = anova_svm.predict(X)