Quali sono i passaggi per collegare spark a hbase?Come configurare hbase in spark?
Ho gli indirizzi principali per entrambi. Devo semplicemente aggiungere l'indirizzo di hbase in spark classpath?
Quali sono i passaggi per collegare spark a hbase?Come configurare hbase in spark?
Ho gli indirizzi principali per entrambi. Devo semplicemente aggiungere l'indirizzo di hbase in spark classpath?
Questo post su come collegare gli elettrodi con HBase dovrebbe essere utile: http://www.vidyasource.com/blog/Programming/Scala/Java/Data/Hadoop/Analytics/2014/01/25/lighting-a-spark-with-hbase
Do I just add the hbase address into spark classpath?
No. In realtà, si dovrebbe mettere i file HBase configuraion nel classpath scintilla. In caso contrario, dovresti impostarli nei tuoi codici, ad esempio:
Configuration hConf = HBaseConfiguration.create(conf);
hConf.set("hbase.zookeeper.quorum", "PDHadoop1.corp.CompanyName.com,PDHadoop2.corp.CompanyName.com");
hConf.setInt("hbase.zookeeper.property.clientPort", 10000);
puoi dirmi come inserire i file di configurazione di hbase su spark classpath? è così - export SPARK_CLASSPATH =/percorso/a/hbase/conf? – RisJi
Sì. Ma è usato solo nel driver. Puoi leggere il post qui sopra. Legge hbase-site.xml nei codici. – zsxwing
grazie! Ma ora ricevo un errore: java.lang.NoSuchMethodError: org.apache.hadoop.net.NetUtils.getInputStream (Ljava/net/Socket;) Ljava/io/InputStream; \t in org.apache.hadoop.hbase.ipc.HBaseClient $ Connection.setupIOstreams (HBaseClient.java:437) – RisJi