I che costruisce un'applicazione che riceve DStreams da Twitter, l'unico modo per interrompere il contesto Streaming è interrompere l'esecuzione. Mi chiedo se c'è un modo per impostare un tempo e terminare il socket di streaming senza interrompere l'intera applicazione?Interrompe il contesto di streaming in Spark Streaming dopo un periodo di tempo
8
A
risposta
5
È possibile utilizzare uno
awaitTerminationOrTimeout(long)
Come accennato nella risposta precedente, oppure è possibile interrompere il contesto in streaming manualmente dal altro thread:
// in the main thread
awaitTermination(); // will wait forever or until the context is stopped
// in another thread
streamingContext.stop();
1
È possibile utilizzare il metodo awaitTermination() sull'oggetto streamingContext per attendere un intervallo di tempo specificato. Fare riferimento this
Problemi correlati
- 1. Streaming di Spark Streaming Kafka
- 2. Come si interrompe un lavoro di streaming spark?
- 3. Spark Streaming UpdateStateByKey
- 4. Streaming Spark: sicurezza dell'applicazione
- 5. Persistendo Spark uscita Streaming
- 6. Metriche personalizzate di streaming Spark
- 7. Spark Streaming stato storico
- 8. Parsing json in spark-streaming
- 9. scrivere un RDD in HDFS in un contesto di spark-streaming
- 10. Spark streaming di più fonti, ricaricare il dataframe
- 11. Streaming audio in tempo reale
- 12. Funzionamento della finestra Streaming Spark
- 13. Spark Streaming - elaborazione file di dati binari
- 14. Spark Streaming groupByKey e updateStateByKey Implementazione
- 15. Elaborazione in corso in Spark Streaming
- 16. MediaPlayer interrompe la riproduzione audio in streaming
- 17. problemi di affidabilità con Checkpoint/WAL in Spark Streaming 1.6.0
- 18. Svantaggi di Spark Streaming in confronto con i sistemi di streaming reale Real
- 19. Conversione di streaming RTMP in streaming MMS
- 20. streaming video in tempo reale in C#
- 21. Streaming di Spark con una tabella di ricerca dinamica
- 22. Spark streaming 1.6.0 - Esecutori che rimbalzano
- 23. Lettura da Cassandra con Spark Streaming
- 24. In Spark Streaming, come rilevare un batch vuoto?
- 25. Spark streaming con JMS - Nessuna API
- 26. Classe KafkaUtils non trovata nello streaming Spark
- 27. elaborazione del log in tempo reale utilizzando lo streaming spark di apache
- 28. Connectify interrompe la connessione Internet dopo un po 'di tempo
- 29. Come vengono assegnati i lavori agli esecutori in Spark Streaming?
- 30. Come nascondere un div dopo un certo periodo di tempo?
Eclipse mi dà questo indicatore, la metodo awaitTermination (long) dal tipo JavaStreamingContext è deprecato! Spark 1.4.0. Ho usato awaitTerminationOrTimeout (Long), ancora non funziona. Continua a stampare. –
public void awaitTermination (long timeout) Obsoleto. A partire da 1.3.0, sostituito da awaitTerminationOrTimeout (Long). Attendi che l'esecuzione si fermi. Qualsiasi eccezione che si verifica durante l'esecuzione verrà generata in questo thread. Parametri: timeout: tempo di attesa in millisecondi – urug