In che modo un singolo servlet gestisce più richieste dal lato client

Question

In che modo un singolo servlet gestisce più richieste client in arrivo sotto forma di richieste utente? Sulla base del modello di progettazione singleton so che si ottiene una singola istanza di servlet creata, ma come fa un singolo servlet a gestire milioni di richieste. Confuso anche per quanto riguarda il threading.

Anche le specifiche o le impostazioni del browser sono utili qui per inviare le richieste o generare i thread inviati per le richieste.

È lo stesso per tutti i framework o si differenzia per esempio puntoni v/s molle?

Answer 1

I framework Struts/Spring sono in realtà scritti sopra le specifiche Servlet, quindi non importa ciò che si utilizza al di sotto di esso. Servlet.

Hai ragione, viene creato solo singola istanza di Servlet, ma tale istanza è condivisa tra più thread. Per questo motivo non dovresti mai avere stati mutabili condivisi nelle tue Servlet.

Per esempio avete seguenti servlet mappato http://localhost/myservlet

class MySerlvet extends HttpServlet { 

    public void doGet(HttpServletRequest req, HttpServletResponse res) { 
      // Get Logic 
    }  
} 

Il server Web avrà qualcosa di simile (non necessariamente lo stesso) nel suo codice.

MyServlet m = new MyServlet(); // This will be created once 

// for each request for http://localhost/myservlet 
executorService.submit(new RequestProcessingThread(m)); 

Answer 2

Ogni richiesta viene elaborata in un thread separato. Questo non significa che Tomcat crea una discussione per richiesta. C'è un pool di thread per elaborare le richieste. Inoltre c'è una singola istanza per ogni servlet e questo è il caso predefinito. (Some more information). Il servlet deve essere Thread Safe.

Se il servlet implementa SingleThreadModel interfaccia, ogni uso filo un'istanza separata di servlet. SingleThreadModel is deprecated, Non usarlo.

ho fatto questa risposta come wiki comunità.

Answer 3

Non creare più istanze di servlet. Il motore servlet crea un thread separato per ciascuna richiesta (fino a un numero massimo di thread) La performance è correlata al numero di thread, non al numero di istanze del servlet.

Ad esempio, se sono presenti 1000 richieste e il numero massimo di thread che possono essere generati dal servlet è 100, si verificherà un peggioramento delle prestazioni.

Per evitare questo problema, è possibile utilizzare il bilanciamento del carico mettendo più server dietro un servizio di bilanciamento del carico. Il servizio di bilanciamento del carico deve essere configurato per "indirizzare" le richieste a uno qualsiasi dei server in base a diversi parametri/impostazioni (distribuzione round robin, distribuzione del carico, ecc.). Maggiore è il carico necessario, maggiore è il numero di server da aggiungere. Tuttavia, questo invia tutto il traffico attraverso il servizio di bilanciamento del carico, quindi è importante che sia ridondante e sicuro da failover.