Ricerca di un bus di messaggi per la condivisione del carico HTTP

Question

Ho un'applicazione HTTP con operatori autonomi che funzionano bene. Il problema è che alcune volte hanno bisogno di eliminare e ricostruire le loro cache, quindi smettono di rispondere per un massimo di 30 secondi.

Ho esaminato un certo numero di bilanciatori di carico, ma nessuno di essi sembra risolvere questo problema. Ho provato Perlbal e alcuni moduli Apache (come fcgid) e inviano volentieri richieste ai lavoratori che sono impegnati nella ricostruzione della loro cache.

Quindi la mia opinione è questa: non esiste una soluzione di bus di messaggi in cui tutte le richieste http vengono accodate, lasciando agli operatori l'elaborazione dei messaggi quando sono in grado di farlo?

Oppure - in alternativa - un bilanciamento del carico che può tenere conto del fatto che i lavoratori sono a volte in grado di rispondere.

aggiunto in seguito: Sono consapevole del fatto che una strategia potrebbe essere che i lavoratori potrebbero utilizzare un protocollo di gestione per informare il bilanciamento del carico quando sono occupati, ma questa soluzione sembra kludgy e temo che ci saranno alcuni casi limite ciò si traduce in errori spuri.

Answer 1

Vedo qui due strategie: mettere un operatore offline per il periodo, quindi un bilanciatore lo abbandonerà; controllo inverso - i lavoratori trascinano le attività da un sistema di bilanciamento, invece che il sistema di bilanciamento spinge i compiti ai lavoratori. Seconda strategia facile da fare con una coda di messaggi.

Answer 2

Se si utilizza il servizio di bilanciamento del carico di Amazon Web Services, è possibile ottenere il risultato desiderato. È possibile contrassegnare un'istanza EC2 dietro a un Elastic Load Balancer (ELB) come non salutare mentre esegue l'eliminazione e la ricostruzione della cache.

Quello che vorrei fare è creare un endpoint aggiuntivo per ogni istanza, ad esempio rebuild_cache. Quindi, se hai 5 istanze dietro il tuo ELB, puoi fare in modo che uno script colpisca ogni singola istanza (non attraverso il load balancer) su quell'endpoint rebuild_cache. Questo endpoint farebbe 3 cose:

1. Contrassegnare l'istanza come non salutare. Il bilanciamento del carico si renderà conto che non è salutare dopo un controllo dello stato non riuscito (i tempi e la soglia dei controlli di integrità sono configurabili da AWS Web Console).
2. Eseguire l'eliminazione della cache e rigenerare
3. Contrassegnare l'istanza come integra. Il bilanciamento del carico eseguirà un controllo dello stato sull'istanza e inizierà a inviarlo solo quando sarà salito per la quantità richiesta di controlli sanitari sani (anche questa soglia viene definita tramite la configurazione ELB Health)