Neural Network: Manipolazione ingressi non disponibili (dati mancanti o incompleti)

Question

Speriamo che l'ultima domanda NN avrai da me in questo fine settimana, ma qui va :)

Esiste un modo per gestire un ingresso che "don 'so sempre "... quindi non influisce in qualche modo sulle ponderazioni?

Soo ... se chiedo a qualcuno se sono maschi o femmine e non vorrebbero rispondere, c'è un modo per ignorare questo input? Forse piazzandolo esattamente al centro? (? Supponendo 1,0 ingressi a 0.5)

Grazie

Answer 1

Probabilmente conoscete questo o sospetta, ma non c'è alcuna base statistica per indovinare o fornire i valori mancanti facendo la media su tutta la gamma di possibili valori, ecc

Per NN in particolare, ci sono alcune tecniche abbastanza avaialble. La tecnica che uso - che ho codificato - è una delle tecniche più semplici, ma ha una solida base statistica ed è ancora usata oggi. Il documento accademico che lo descrive è here.

La teoria alla base di questa tecnica è l'integrazione ponderata rispetto ai dati incompleti. In pratica, non vengono valutati gli integrali, ma vengono approssimati da soluzioni a forma chiusa di reti Gaussian Basis Function. Come vedrete nel documento (che è una spiegazione dettagliata, è semplice da implementare nell'algoritmo di backprop.

Answer 2

reti neurali sono abbastanza resistenti al rumore - che è uno dei loro grandi vantaggi. Potresti provare a mettere gli input su (-1.0,1.0), con 0 come input non di input, comunque. In questo modo l'input per i pesi da quel neurone è 0.0, il che significa che nessun apprendimento si verificherà lì.

Probabilmente il miglior libro che abbia mai avuto la sfortuna di non aver finito (ancora!) È Neural Networks and Learning Machines di Simon S. Haykin. In esso, parla di tutti i tipi di problemi, incluso il modo in cui dovresti distribuire i tuoi input/set di allenamento per il miglior allenamento, ecc. È un libro davvero fantastico!