Qual è lo scopo delle raccolte di grafici in TensorFlow?

Question

L'API parla dello Graph Collections che a giudicare dal numero code è una memoria di chiavi/dati di uso generale. Qual è lo scopo di queste collezioni?

Answer 1

Ricordare che sotto il cofano, Tensorflow è un sistema per specificare e quindi eseguire i grafici del flusso di dati computazionale. Le raccolte di grafici sono utilizzate come parte del tracciamento dei grafici costruiti e di come devono essere eseguiti. Ad esempio, quando crei determinati tipi di operazioni, ad esempio tf.train.batch_join, il codice che aggiunge l'operazione aggiungerà anche alcuni corridori di coda alla raccolta di grafici QUEUE_RUNNERS. Successivamente, quando chiami start_queue_runners(), per impostazione predefinita, verrà esaminata la raccolta QUEUE_RUNNERS per sapere quali corridori iniziare.

Answer 2

Penso che ci siano almeno due vantaggi per me finora:

1. quando si distribuisce il programma su più GPU o macchine è conveniente per raccogliere le perdite da diversi dispositivi che si trovano nella stessa collezione. Utilizzare tf.add_n per aggiungerli per accumulare la perdita.
2. Per aggiornare un determinato insieme di variabili come pesi e bias a modo mio.

Ad esempio:

import tensorflow as tf  
w = tf.Variable([1,2,3], collections=[tf.GraphKeys.WEIGHTS], dtype=tf.float32)  
w2 = tf.Variable([11,22,32], collections=[tf.GraphKeys.WEIGHTS], dtype=tf.float32) 
weight_init_op = tf.variables_initializer(tf.get_collection_ref(tf.GraphKeys.WEIGHTS)) 
sess = tf.InteractiveSession() 
sess.run(weight_init_op) 
for vari in tf.get_collection_ref(tf.GraphKeys.WEIGHTS): 
    tf.add_to_collection(tf.GraphKeys.UPDATE_OPS, vari.assign(0.2 * vari)) 
weight_update_ops = tf.get_collection_ref(tf.GraphKeys.UPDATE_OPS) 
sess.run(weight_update_ops) 

L'output:

[array ([0,2, ,40,000001 millions, ,60,000002 millions], dtype = float32), array ([2,20,000005 millions, 4,4000,001 mila, 6,4000,001 mila], dtype = float32)]