findspark.init() IndexError: indeks listy poza zakresem błędu

Question

podczas uruchamiania następującego w środowisku Python 3.5.0 Jupyter Otrzymuję błąd poniżej. Jakieś pomysły na to, co go powoduje?

import findspark 
findspark.init() 

błąd:

IndexError        Traceback (most recent call 
last) <ipython-input-20-2ad2c7679ebc> in <module>() 
     1 import findspark 
----> 2 findspark.init() 
     3 
     4 import pyspark 

/.../anaconda/envs/pyspark/lib/python3.5/site-packages/findspark.py in init(spark_home, python_path, edit_rc, edit_profile) 
    132  # add pyspark to sys.path 
    133  spark_python = os.path.join(spark_home, 'python') 
--> 134  py4j = glob(os.path.join(spark_python, 'lib', 'py4j-*.zip'))[0] 
    135  sys.path[:0] = [spark_python, py4j] 
    136 

IndexError: list index out of range 

Answer 1

Jest to najprawdopodobniej ze względu na zmienną SPARK_HOME środowiska nie są prawidłowo ustawione w systemie. Alternatywnie, można po prostu określić, kiedy jesteś inicjalizacji findspark, tak:

import findspark 
findspark.init('/path/to/spark/home') 

Po tym, to powinny działać!

Answer 2

byłem coraz ten sam błąd i był w stanie zrobić to praca wpisując dokładny katalog instalacyjny:

import findspark 
# Use this 
findspark.init("C:\Users\PolestarEmployee\spark-1.6.3-bin-hadoop2.6") 
# Test 
from pyspark import SparkContext, SparkConf 

Basically, it is the directory where spark was extracted. In future where ever you see spark_home enter the same installation directory. I also tried using toree to create a kernal instead, but it is failing somehow. A kernal would be a cleaner solution.

Answer 3

Musisz zaktualizować SPARK_HOME zmienną wewnątrz bash_profile. Dla mnie następujące polecenie działało (w terminalu):

export SPARK_HOME="/usr/local/Cellar/apache-spark/2.2.0/libexec/"

Po tym, można wykorzystać następujące polecenia:

import findspark 
findspark.init('/usr/local/Cellar/apache-spark/2.2.0/libexec')