7
Tutti o quasi tutti i documenti che utilizzano drop-out lo utilizzano per l'apprendimento supervisionato. Sembra che possa essere usato altrettanto facilmente per regolarizzare deep autoencoder, RBM e DBN. Quindi, perché non si usa il drop out nell'apprendimento non supervisionato?Perché DropOut non viene utilizzato nell'apprendimento non supervisionato?
Guardate denoising autoencoder, l'aggiunta di rumore casuale è simile ritirarsi. –
Sì, è esattamente la stessa idea. Selezionano casualmente gli input e li impostano su 0. Vedere: http://deeplearning.net/tutorial/dA.html – alfa
Ho la stessa domanda. Penso che il denoising AE applichi solo il dropout sul livello di input. La mia domanda è: perché il dropout non viene applicato ai livelli nascosti per evitare il sovradattamento? –