Prefetching dei dati nella cache per x86-64

Question

Nella mia applicazione, a un certo punto ho bisogno di eseguire calcoli su un grande blocco contiguo di dati di memoria (100s di MB). Quello che stavo pensando è stato di mantenere il prefetching della parte del blocco che il mio programma toccherà in futuro, così che quando eseguo i calcoli su quella parte, i dati sono già nella cache.

Qualcuno può darmi un semplice esempio di come ottenere ciò con gcc? Ho letto _mm_prefetch da qualche parte, ma non so come usarlo correttamente. Si noti inoltre che ho un sistema multicore, ma ogni core lavorerà su una diversa regione di memoria in parallelo.

Answer 1

gcc utilizza le funzioni integrate come interfaccia per le istruzioni di livello inferiore. In particolare per il tuo caso __builtin_prefetch. Ma si dovrebbe vedere una differenza misurabile quando si utilizza questo nei casi in cui il modello di accesso non è facile da prevedere automaticamente.

Answer 2

Le moderne CPU hanno un buon prefetch automatico e potreste scoprire che fate più male che bene se provate ad avviare il precaricamento del software. È molto probabile che ci sia molto più "basso appeso" che puoi concentrarti sull'ottimizzazione se trovi che hai effettivamente un problema di prestazioni. Il prefetch tende ad essere una delle ultime cose che potresti provare, quando sei alla disperata ricerca di un throughput in più.