2014-09-03 11 views
5

Quali sono i passaggi per collegare spark a hbase?Come configurare hbase in spark?

Ho gli indirizzi principali per entrambi. Devo semplicemente aggiungere l'indirizzo di hbase in spark classpath?

risposta

2

Questo post su come collegare gli elettrodi con HBase dovrebbe essere utile: http://www.vidyasource.com/blog/Programming/Scala/Java/Data/Hadoop/Analytics/2014/01/25/lighting-a-spark-with-hbase

Do I just add the hbase address into spark classpath?

No. In realtà, si dovrebbe mettere i file HBase configuraion nel classpath scintilla. In caso contrario, dovresti impostarli nei tuoi codici, ad esempio:

Configuration hConf = HBaseConfiguration.create(conf); 
    hConf.set("hbase.zookeeper.quorum", "PDHadoop1.corp.CompanyName.com,PDHadoop2.corp.CompanyName.com"); 
    hConf.setInt("hbase.zookeeper.property.clientPort", 10000); 
+1

puoi dirmi come inserire i file di configurazione di hbase su spark classpath? è così - export SPARK_CLASSPATH =/percorso/a/hbase/conf? – RisJi

+0

Sì. Ma è usato solo nel driver. Puoi leggere il post qui sopra. Legge hbase-site.xml nei codici. – zsxwing

+0

grazie! Ma ora ricevo un errore: java.lang.NoSuchMethodError: org.apache.hadoop.net.NetUtils.getInputStream (Ljava/net/Socket;) Ljava/io/InputStream; \t in org.apache.hadoop.hbase.ipc.HBaseClient $ Connection.setupIOstreams (HBaseClient.java:437) – RisJi