Sto provando a eseguire il geoIP di MaxMind in un'attività spark, ma ricevo un NoSuchMethodException da una chiamata maxmind a una libreria databind di jackson. Ho rimosso tutte le altre versioni di jackson-databind usando le esclusioni di mvn, tuttavia l'errore persiste dopo un mvn clean. Cosa mi manca?NoSuchMethodException in MaxMind GeoIp dependency jackson-databind creato con ombreggiatura mvn
Nessun conflitto di dipendenza:
mvn dependency:tree -Dverbose -Dincludes=com.fasterxml.jackson.core:jackson-databind ... [INFO] --- maven-dependency-plugin:2.8:tree (default-cli) @ sift-etl --- [INFO] com.sift.etl:sift-etl:jar:0.1.6 [INFO] \- com.maxmind.geoip2:geoip2:jar:2.6.0:compile [INFO] \- com.maxmind.db:maxmind-db:jar:1.2.0:compile [INFO] \- com.fasterxml.jackson.core:jackson-databind:jar:2.7.0:compile
Errore:
Exception in thread "main" java.lang.NoSuchMethodError: com.fasterxml.jackson.databind.node.ArrayNode.<init>(Lcom/fasterxml/jackson/databind/node/JsonNodeFactory;Ljava/util/List;)V at com.maxmind.db.Decoder.decodeArray(Decoder.java:272)
Edit: ho un sacco di org.codehaus.jackson
, ho bisogno di escludere questi pure? Come posso risolvere le differenze in namespace?
Modifica: questo è integrato in un progetto basato su scala eseguito in Apache Spark. Il vaso viene compilato in un barattolo ombreggiata con Maven-ombra-plugin 2.4
Edit: Ecco l'output completo per vaso tvf sul vaso ombreggiato: https://drive.google.com/file/d/0B2ZVKNsRXgTbeUdEU2ZhM2J3dmc/view?usp=sharing
Ecco il risultato di un grep per Jackson-databind : 0 Mon Jan 25 09:53:54 PST 2016 META-INF/maven/com.fasterxml.jackson.core/jackson-databind/ 151 Mon Jan 25 09:53:54 PST 2016 META-INF/maven/com.fasterxml.jackson.core/jackson-databind/pom.properties 5192 Mon Jan 25 09:53:54 PST 2016 META-INF/maven/com.fasterxml.jackson.core/jackson-databind/pom.xml
e ArrayNode: /usr/lib/jvm/sift-jdk1.8.0_66/bin/jar -tvf target/sift-etl-0.1.6-shaded.jar | grep ArrayNode 15060 Sat Jan 23 01:33:14 UTC 2016 shaded/parquet/org/codehaus/jackson/node/ArrayNode.class 1309 Sat Jan 23 01:33:18 UTC 2016 org/apache/lucene/index/DocumentsWriterDeleteQueue$QueryArrayNode.class 1645 Sat Jan 23 01:33:18 UTC 2016 org/apache/lucene/index/DocumentsWriterDeleteQueue$TermArrayNode.class 18145 Sat Jan 23 01:33:20 UTC 2016 com/fasterxml/jackson/databind/node/ArrayNode.class 1058 Sat Jan 23 01:33:22 UTC 2016 org/apache/commons/configuration/plist/XMLPropertyListConfiguration$ArrayNode.class
inizializzazione e l'interrogazione del MaxMind GeoIP DB viene eseguito con successo nei test. L'errore si verifica solo in produzione quando viene eseguito come attività scintilla, dopo che è stato impacchettato con maven-shade.
Maven-ombra plug-config: http://pastebin.com/QzrhM5Ee
E 'significativo che il vaso ombreggiata non contiene il vaso Jackson-DataBind, ma tutti i file * .class entro il vaso?
Il problema sembra essere correlato alla versione di 'jackson-databind' in' spark-assembly.jar'. Qui la mia traccia _-verbose_: '[Loaded org.apache.spark.TaskContextImpl $$ anonfun $ markTaskCompleted $ 1 dal file: /home/vagrant/spark-1.6.1-bin-hadoop2.6/lib/spark-assembly-1.6.1-hadoop2.6.0.jar] ' – Stan