Evitare l'overhead CIT JIT

Question

C'è un modo semplice di codificare il codice C# JIT in anticipo, piuttosto che attendere la prima volta che il codice viene richiamato? Ho letto di NGEN ma non penso che mi possa aiutare.

La mia applicazione attende e risponde a un evento esterno specifico proveniente da una porta UDP e nessuno del codice del percorso critico è (a) eseguito prima dell'arrivo dell'evento o (b) mai eseguito di nuovo, quindi il costo di JIT è alta in questo scenario. Controllando con il profiler ANTS, il sovraccarico per JIT è intorno al 40-50%, a volte arriva fino al 90%. La mia applicazione è estremamente sensibile alla latenza e ogni millisecondo conta.

Il mio pensiero iniziale è che potrei aggiungere un parametro bool a ogni metodo di percorso critico e chiamare quei metodi prima che si verifichi l'evento, al fine di avviare la compilazione JIT. Tuttavia, c'è un modo più carino e meno hacky?

Molte grazie

Answer 1

Direi di usare NGEN e se non funziona, probabilmente hai problemi più profondi.

Tuttavia, per rispondere alla tua domanda, questo articolo su come utilizza System.Runtime.CompilerServices.RuntimeHelpers.PrepareMethod per forzare un JIT. Include codice di esempio per utilizzare la riflessione per ottenere le maniglie del metodo.

Answer 2

Cosa succede la seconda volta che arriva l'evento? È più veloce di allora o altrettanto lento. Se è ancora lento, allora JIT non è il problema, perché il codice diventa "JIT" ed una sola volta, la prima volta che viene eseguito.

NGEN fornirebbe la risposta per voi. Il mio suggerimento è di prendere il minimo indispensabile del codice necessario, il percorso critico, se lo si desidera, e inserirlo in un progetto dummy/sandbox. Inizia la profilazione/NGenning di questo codice e vedere la performance.

Se questo codice minimo è nullo, anche se NGEN non funziona correttamente su più chiamate, la pre-compilazione non ti aiuterà. È qualcosa d'altro nel codice che sta causando colli di bottiglia di prestazioni.