Uregulowanie w TensorFlow korzystając tf.contrib.layers.fully_connected

Question

fully_connected ma nazwany parametr zwany weights_regularizer który przyjmuje regularizers dostarczonych przez tf.contrib.layers, jednak nie jest jasne, trenerzy są w stanie znaleźć tych tensorów strat uregulowanie lub jeśli mamy do ręcznego dodaj je do całkowitej straty.

Czy ktoś może podać przykład regulacji za pomocą fully_connected?

Answer 1

Wyjścia stabilizatora dodawane są do kolekcji o nazwie REGULARIZATION_LOSSES (warstwa wywołuje model_variable za pomocą regulatora).

Musisz samemu dodać do siebie stratę REGULARIZATION_LOSSES. Aby uzyskać wszystkie tensory w kolekcji REGULARIZATION_LOSSES, użyj tf.get_collection(tf.GraphKeys.REGULARIZATION_LOSSES).