Quanti core cpu possono utilizzare un singolo processo Java?

Question

Sto eseguendo alcuni test delle prestazioni per determinare i tempi di risposta e la capacità di gestire la concorrenza con varie configurazioni di cpu/ram/os. Una scoperta interessante in cui mi sono imbattuto, è che sembra che una singola jvm funzioni meglio con 4 core rispetto a 2 core (non c'è da stupirsi), ma l'aggiunta di più core oltre il 4 core non comporta miglioramenti significativi . Ma poi, l'aggiunta di un'altra istanza di jvm con un bilanciamento del carico (stesso hardware) ha comportato un notevole miglioramento.

Sembra che un singolo processo sia limitato dal numero di core che può utilizzare, forse a causa di una limitazione del numero di thread os che un processo può generare in un momento. Questo è un ambiente a 64 bit.

Im utilizzando tomcat e provato a modificare l'attributo "maxThreads" ma ciò non ha fatto la differenza per la quantità di concorrenza che sto cercando di gestire.

Qualsiasi altra ragione potrebbe essere spiegata?

Answer 1

In generale, un'applicazione Java proverà a pianificare ogni thread attivo su un core separato. Questo include i thread GC. Se l'applicazione non era legata alla CPU, in primo luogo, l'aggiunta di più core non avrebbe alcuna importanza in quanto i thread sono bloccati da qualcosa.

Per un'applicazione Web, le cose si complicano leggermente. Aumentare la dimensione del pool di thread non farà alcuna differenza se c'è qualcos'altro che i thread sono in attesa, come un database da un pool di connessioni di database, per esempio. È necessario esaminare attentamente il bilanciamento del carico e le configurazioni di Tomcat. Se quelli non sono sintonizzati correttamente è molto facile avere il comportamento che descrivi.

Non mi preoccuperei troppo di JVM essendo limitato nel numero di thread che può avere. Vedo regolarmente oltre 600 thread in ogni JVM nel nostro sistema di produzione. Utilizziamo 8 core machine e le richieste sono di breve durata, quindi la maggior parte di questi thread si trova in uno stato di attesa I/O.