Preprocesso di un tensore Tensorflow in Numpy

Question

Ho installato una CNN in Tensorflow dove ho letto i miei dati con TFRecordReader. Funziona bene, ma mi piacerebbe fare un po 'più di pre-elaborazione e incremento dei dati rispetto alle funzioni tf.image. Mi piacerebbe in particolare fare un ridimensionamento randomizzato.

È possibile elaborare un tensore Tensorflow in Numpy? O devo abbandonare TFRecordReader e preferisco eseguire tutte le operazioni di pre-elaborazione in Numpy e feed data utilizzando feed_dict? Sospetto che il metodo feed_dict sia lento durante l'allenamento sulle immagini, ma potrei sbagliarmi?

Answer 1

Se è possibile creare una pipeline I/O personalizzata che recuperi i risultati intermedi da TensorFlow utilizzando uno o più thread, applica la logica Python arbitraria e quindi li inoltra in una coda per l'elaborazione successiva. Il programma risultante sarebbe un po 'più complicato, ma ti suggerisco di guardare lo threading and queues HOWTO per informazioni su come iniziare.

---

C'è un sperimentale caratteristica che potrebbe rendere questo più facile, se si install from source.

Se si è già costruito un oleodotto di pre-elaborazione utilizzando ops tensorflow, il modo più semplice per aggiungere un po 'di codice Python usanza è quella di utilizzare l'operatore tf.py_func(), che prende una lista di Tensor oggetti, e una funzione Python che mappa uno o più NumPy matrici su uno o più array NumPy.

Ad esempio, supponiamo che tu abbia una pipeline come questo:

reader = tf.TFRecordReader(...) 
image_t = tf.image.decode_png(tf.parse_single_example(reader.read(), ...)) 

... si potrebbe usare tf.py_func() di applicare alcuni di elaborazione personalizzata NumPy come segue:

from scipy import ndimage 
def preprocess(array): 
    # `array` is a NumPy array containing. 
    return ndimage.rotate(array, 45) 

image_t = tf.py_func(preprocess, [image_t], [tf.float32])