2013-03-03 17 views
21

Próbuję zaimplementować program przykładowego programu word przy użyciu Hadoop. Pobrałem i zainstalowałem Hadoop 2.0.0. Chcę zrobić ten przykładowy program za pomocą Eclipse, ponieważ myślę, że później w moim prawdziwym projekcie będę musiał używać tylko Eclipse.Gdzie są pliki jar o mdłości w hadoop 2?

Nie mogę znaleźć plików jar związanych z Hadoop, takich jak hadoop-core.jar i innych wymaganych plików jar. Szukałem we wszystkich folderach 2.0 hadoop, ale nie mogłem znaleźć tych plików. Te same pliki są dostępne w wersji 1.0 programu Hadoop, ale nie w wersji 2.0. Chciałbym wiedzieć, gdzie mogę uzyskać te pliki?

Nie mogę znaleźć wiele informacji na temat wersji 2.0.

pomóż

Odpowiedz

34

Właściwie, to w obliczu podobnego problemu na początku. Najwyraźniej nie ma wersji hadoop-core.jar dla wersji 2. Będziesz musiał pobrać słoiki Hadoop Common i MapReduce Client Core i użyć ich obu. Jestem pewien, że rozwiąże to twoje problemy. Mam nadzieję że to pomoże!

Edit: Właśnie zaktualizowane linki tak, że ludzie mogą wybrać odpowiednią wersję z repozytorium ponieważ teraz przyjść drogę obok pierwotnej wersji 2.

+1

Co z bibliotekami zależnymi? Powoduje błędy w czasie wykonywania później: http://stackoverflow.com/questions/20763553/hadoop-2-0-jar-files. –

+1

@IgorSevo Myślę, że możesz potrzebować dodać kilka zależnych bibliotek, ale pytanie nie poprosiło o to. Ponadto, jeśli używasz 'Gradle' do zarządzania zależnościami, automatycznie włącza zależne biblioteki i kod działa dobrze z tymi dwoma słoikami. – aa8y

+0

jak wspomniano w odpowiedzi poniżej. Będą dostępne na '$ {HADOOP_HOME}/share/hadoop/common' oraz' $ {HADOOP_HOME}/share/hadoop/mapreduce' –

8

Łącznie słoików w folderach wymienionych poniżej pracował dla mnie:

share\hadoop\common  
share\hadoop\common\lib 
share\hadoop\mapreduce  
share\hadoop\mapreduce\lib 
share\hadoop\yarn   
share\hadoop\yarn\lib 
+0

Ukośniki muszą być przesyłane dalej !! –

4

Hadoop-core - $ {HADOOP_VERSION} .jar jest w

${HADOOP_HOME}/share/hadoop/common 

katalogu, a nie $ {HADOO P_HOME} katalog.

+0

$ {HADOOP_HOME}/share/hadoop/common –

+0

prosta i dobra odpowiedź. Rewizja. –

2

Działa to dla mnie na Mac na Hadoop 2.6.0:

hadoop/2.6.0/libexec/share/hadoop/common/hadoop-common-2.6.0.jar 

lub po prostu poszukać ".jar" w katalogu Hadoop, można zobaczyć wszystkie pliki .jar.

1

hadoop-core-{version}.jar stał hadoop-common-{version}.jar zaczynając Hadoop 2+

-1

temperaturze poniżej lokalizacji można wybrać folder o nazwie według rozkładu, które zostały zainstalowane, że wewnątrz znajduje się folder jar. /opcjonalnie/Cloudera/paczki/[dystrybucji Cloudera]/słoiki/

przykład: /opt/cloudera/parcels/CDH-5.4.10/jars

0

Na Hadoop 2.7.2 miałem je ustawić do tego samego, co HADOOP_COMMON_HOME.

Powiązane problemy