Jaki jest cel kolekcji wykresów w TensorFlow?

Question

Interfejs API omawia Graph Collections, które według code służą do przechowywania klucza/danych ogólnego przeznaczenia. Jaki jest cel tych kolekcji?

Answer 1

Należy pamiętać, że pod maską Tensorflow jest systemem do określania, a następnie wykonywania wykresów przepływu danych obliczeniowych. Kolekcje wykresów są używane jako część śledzenia tworzonych wykresów i sposobu ich wykonywania. Na przykład podczas tworzenia określonych rodzajów operacji, takich jak tf.train.batch_join, kod dodający operację spowoduje również dodanie niektórych kolejek do kolekcji wykresów QUEUE_RUNNERS. Później, gdy zadzwonisz pod numer start_queue_runners(), domyślnie przyjrzysz się kolekcji QUEUE_RUNNERS, aby wiedzieć, którzy biegacze mają wystartować.

Answer 2

Myślę, że istnieją co najmniej dwie korzyści dla mnie do tej pory:

1. kiedy dystrybuować swój program na wielu GPU lub maszyn jest to wygodne, aby zebrać straty z różnych urządzeń, które są w tej samej kolekcji. Użyj tf.add_n, aby dodać je, aby zgromadzić stratę.
2. Aby zaktualizować określony zestaw zmiennych, takich jak wagi i błędy na swój własny sposób.

Na przykład:

import tensorflow as tf  
w = tf.Variable([1,2,3], collections=[tf.GraphKeys.WEIGHTS], dtype=tf.float32)  
w2 = tf.Variable([11,22,32], collections=[tf.GraphKeys.WEIGHTS], dtype=tf.float32) 
weight_init_op = tf.variables_initializer(tf.get_collection_ref(tf.GraphKeys.WEIGHTS)) 
sess = tf.InteractiveSession() 
sess.run(weight_init_op) 
for vari in tf.get_collection_ref(tf.GraphKeys.WEIGHTS): 
    tf.add_to_collection(tf.GraphKeys.UPDATE_OPS, vari.assign(0.2 * vari)) 
weight_update_ops = tf.get_collection_ref(tf.GraphKeys.UPDATE_OPS) 
sess.run(weight_update_ops) 

Wydajność:

[Tablica ([0,2, 0,40000001, 0,60000002] dtype = float32) tablica ([2,20000005, 4,4000001, 6,4000001] dtype = float32)]