2017-05-24 16 views
8

Jestem nowy w RNN, i próbuję dowiedzieć się specyfiki komórek LSTM a oni stosunek do TensorFlow: Colah GitHub enter image description here Czy GitHub przykład strony używa tej samej komórki LSTM w porównaniu do TensorFlow? Jedyne, co dostałem na stronie TensorFlow, to że podstawowe komórki LSTM wykorzystują następującą architekturę: Paper Jeśli jest to ta sama architektura, to mogę ręcznie przeliczyć liczby dla komórki LSTM i sprawdzić, czy pasuje.Nawracające Neural Network (RNN) - Zapomnij warstwę i TensorFlow

Również kiedy ustawić podstawową komórkę LSTM w tensorflow, trwa w num_units według: TensorFlow documentation

tf.nn.rnn_cell.GRUCell.__init__(num_units, input_size=None, activation=tanh) 

Jest to liczba ukrytych państwa (h_t)) i stanu komórki (c_t)?

Według strony internetowej GitHub, nie ma żadnej wzmianki o liczbie stanów komórek i stanach ukrytych. Zakładam, że muszą być tą samą liczbą?

+0

Przykro mi, ale głębokie uczenie się nie jest czymś, co można wykonać w samouczku i stajesz się guru. To jest moje doświadczenie w tej chwili, miesiące nauki bardzo trudne do zrozumienia, ponieważ są złożone. Jeśli więc jesteś naprawdę nowy i chcesz zrozumieć, jak działają, polecam kursy Udemy od instruktorów: Lazy Programmer i SuperDataScience. Jeśli interesuje Cię tylko łatwy kod, który możesz wypróbować w Keras, jest to wysokopoziomowy framework działający na platformie Tensorflow lub Theano. –

+0

Czy masz pytania dotyczące GRU lub LSTM? Komórka GRU ma jeden stan, który ma taki sam rozmiar wyjścia, podczas gdy komórka LSTM ma stan dwuczęściowy z komponentami o jednakowej wielkości. – jasekp

Odpowiedz

4

Implementacja wygląda tak samo jak GRUCell klasa doc również wskazuje ten sam dokument (specjalnie dla bramek) z link podaną w artykule Colah. Parametr num_units to liczba komórek (przy założeniu, że jest to ukryta warstwa) odpowiada output_size należnej właściwości definition.

+0

Co masz na myśli przez bramę? Jestem nowy w RNNs. Jeśli chcesz wyjaśnić, czy możesz podać link wyjaśniający bramę? Dzięki – user1157751

+0

Witaj, podałeś przykład GRUCell, który oznacza 'bramkowana powtarzająca się '. Artykuł Colah po raz pierwszy wspomina o komórce i stanie ukrytym, wyjaśniając termin GRU. – hurturk

+0

Dobra, myślę, że muszę jeszcze zrozumieć, czym jest GRU. Dowiem się później, wielkie dzięki za pomoc! – user1157751