6

Mój OS to OS X 10.11.6. Używam Spark 2.0, Zeppelin 0.6, Scala 2.11com.fasterxml.jackson.databind.JsonMappingException: wersja Jackson jest zbyt stara 2.5.3

Po uruchomieniu tego kodu na Zeppelinie otrzymuję wyjątek od Jacksona. Po uruchomieniu tego kodu w iskrze-powłoce - bez wyjątku.

val filestream = ssc.textFileStream("/Users/davidlaxer/first-edition/ch06") 

com.fasterxml.jackson.databind.JsonMappingException: Jackson version is too old 2.5.3 
    at com.fasterxml.jackson.module.scala.JacksonModule$class.setupModule(JacksonModule.scala:56) 
    at com.fasterxml.jackson.module.scala.DefaultScalaModule.setupModule(DefaultScalaModule.scala:19) 
    at com.fasterxml.jackson.databind.ObjectMapper.registerModule(ObjectMapper.java:651) 
    at org.apache.spark.rdd.RDDOperationScope$.<init>(RDDOperationScope.scala:82) 
    at org.apache.spark.rdd.RDDOperationScope$.<clinit>(RDDOperationScope.scala) 
    at org.apache.spark.streaming.StreamingContext.withNamedScope(StreamingContext.scala:273) 
    at org.apache.spark.streaming.StreamingContext.textFileStream(StreamingContext.scala:413) 
    ... 51 elided 

Zależność-zmniejszonej pom.xml w zapłonie rdzenia pokazuje wersję 2.6.5

<dependency> 
     <groupId>com.fasterxml.jackson.core</groupId> 
     <artifactId>jackson-databind</artifactId> 
     <version>2.6.5</version> 
     <scope>compile</scope> 
    </dependency> 

Wersja Mavenie jest:

David-Laxers-MacBook-Pro:2.5.3 davidlaxer$ mvn -version 
Apache Maven 3.3.9 (bb52d8502b132ec0a5a3f4c09453c07478323dc5; 2015-11-10T08:41:47-08:00) 
Maven home: /opt/local/share/java/maven3 
Java version: 1.8.0_05, vendor: Oracle Corporation 
Java home: /Library/Java/JavaVirtualMachines/jdk1.8.0_05.jdk/Contents/Home/jre 
Default locale: en_US, platform encoding: UTF-8 
OS name: "mac os x", version: "10.11.6", arch: "x86_64", family: "mac" 

Wersja Java jest:

David-Laxers-MacBook-Pro:2.5.3 davidlaxer$ java -version 
java version "1.8.0_05" 
Java(TM) SE Runtime Environment (build 1.8.0_05-b13) 
Java HotSpot(TM) 64-Bit Server VM (build 25.5-b02, mixed mode) 

Zeppelin został zbudowany z folią Lowing parametry:

$ mvn clean package -Pspark-2.0 -Phadoop-2.4 -Pyarn -Ppyspark -Psparkr -Pscala-2.11 -DskipTests 

Generowanie drzewa zależności w Zeppelin iw Spark pokazał wszystkie odniesienia Jackson-databind jako 2.6.5.

$ mvn dependency:tree -Dverbose 
shows [INFO] +- com.fasterxml.jackson.core:jackson-databind:jar:2.6.5:compile 

Próbowałem kasowanie ~/.m2/repozytorium/com/fasterxml i odbudowy zapłonową i Zeppelin.

Oto mój $ PATH:

David-Laxers-MacBook-Pro:~ davidlaxer$ !e 
echo $PATH 
/Users/davidlaxer/.sdkman/candidates/springboot/current/bin:/Users/davidlaxer/.jenv/shims:/Users/davidlaxer/.jenv/bin:/Developer/NVIDIA/CUDA-6.5/bin:/usr/local/lib/erlang/erts-5.9.1/bin:/users/davidlaxer/anaconda/bin:/users/davidlaxer/anaconda/bin/bin:/opt/local/Library/Frameworks/Python.framework/Versions/2.7/bin:/opt/local/bin:/opt/local/sbin:/usr/local/lib/erlang/erts-5.9.1/bin:/users/davidlaxer/anaconda/bin:/usr/local/bin:/usr/bin:/bin:/usr/sbin:/sbin:/opt/X11/bin:/usr/local/CrossPack-AVR/bin:/usr/local/git/bin:/usr/texbin::/opt/local/bin/scala/bin::/usr/local/hadoop/bin:/usr/local/hadoop/sbin:/Users/davidlaxer/pig-0.13.0-src/bin:/Users/davidlaxer/pig-0.13.0-src/sbin:/Users/davidlaxer/Downloads/apache-maven-3.2.1/bin:/Users/davidlaxer/anaconda/bin/bin::/usr/local/hadoop/bin:/usr/local/hadoop/sbin:/Users/davidlaxer/.rvm/bin:/Library/Frameworks/JRuby.framework/Versions/Current/bin:/usr/local/gradle-source-build/bin:/Users/davidlaxer/bin:/Users/davidlaxer/storm/bin:/usr/bin:/usr/sbin:/Users/davidlaxer/spark/bin:/Library/PostgreSQL/9.4/bin:/usr/local/mysql/bin 

Jakieś pomysły dlaczego mam podnoszenia wersji 2.5.3?

Odpowiedz

4

Wymiana jackson jars (wersja 2.5.x) w "./zeppelin-zengine/target/lib/" i "./zeppelin-server/target/lib/" z następującą wersją rozwiąże problem.

Jackson-DataBind-2.6.5.jar Jackson-core-2.6.5.jar Jackson-adnotacje-2.6.5.jar

+0

Ok. Spróbuję tego. Tymczasem powróciłem do Spark 1.6 i Zeppelin 0.56. Otrzymuję: com.fasterxml.jackson.databind.JsonMappingException: Nie można znaleźć własności twórcy o nazwie 'id' (w klasie org.apache.spark.rdd.RDDOperationScope) w [Źródło: {"id": "0 "," name ":" strumień plików tekstowych "}; linia: 1, kolumna: 1] Czy to ten sam problem? – dbl001

+0

Co powoduje, że mvn instaluje starsze słoiki? – dbl001

+0

Po zastąpieniu plików .jar w obu katalogach ponownie uruchom komendę mvn? Na przykład. mvn clean package -Pspark-1.6 -Phadoop-2.6 -DskipTests -Dhadoop.version = 2.6.4 – dbl001

0

można użyć $ SPARK_HOME/słoiki/Jackson-DataBind-2.6 .5.jar jackson-core-2.6.5.jar jackson-adnotations-2.6.5.jar, aby zastąpić stare słoiki wersji $ ZEPPELIN_HOME/lib

Powiązane problemy