Oblicz regresję logistyczną w pythonie

Question

Próbowałem obliczyć regresję logiczną. Mam dane jako plik csv. wygląda

node_id,second_major,gender,major_index,year,dorm,high_school,student_fac 
0,0,2,257,2007,111,2849,1 
1,0,2,271,2005,0,51195,2 
2,0,2,269,2007,0,21462,1 
3,269,1,245,2008,111,2597,1 
.......................... 

To mój kodowania.

import pandas as pd 
import statsmodels.api as sm 
import pylab as pl 
import numpy as np 

df = pd.read_csv("Reed98.csv") 
print df.describe() 

dummy_ranks = pd.get_dummies(df['second_major'], prefix='second_major') 

cols_to_keep = ['second_major', 'dorm', 'high_school'] 
data = df[cols_to_keep].join(dummy_ranks.ix[:, 'year':]) 
train_cols = data.columns[1:] 
# Index([gre, gpa, prestige_2, prestige_3, prestige_4], dtype=object) 

logit = sm.Logit(data['second_major'], data[train_cols]) 
result = logit.fit() 

print result.summary() 

Kiedy uruchomić kodowania w python Mam błąd:

Traceback (most recent call last): 
File "D:\project\logisticregression.py", line 24, in <module> 
result = logit.fit() 
File "c:\python26\lib\site-packages\statsmodels-0.5.0-py2.6-   win32.egg\statsmodels\discrete\discrete_model.py", line 282, in fit 
disp=disp, callback=callback, **kwargs) 
File "c:\python26\lib\site-packages\statsmodels-0.5.0-py2.6- win32.egg\statsmodels\discrete\discrete_model.py", line 233, in fit 
disp=disp, callback=callback, **kwargs) 
File "c:\python26\lib\site-packages\statsmodels-0.5.0-py2.6- win32.egg\statsmodels\base\model.py", line 291, in fit 
hess=hess) 
File "c:\python26\lib\site-packages\statsmodels-0.5.0-py2.6-win32.egg\statsmodels\base\model.py", line 341, in _fit_mle_newton 
newparams = oldparams - np.dot(np.linalg.inv(H), 
File "C:\Python26\Lib\site-packages\numpy\linalg\linalg.py", line 445, in inv 
return wrap(solve(a, identity(a.shape[0], dtype=a.dtype))) 
File "C:\Python26\Lib\site-packages\numpy\linalg\linalg.py", line 328, in solve 
raise LinAlgError('Singular matrix') 
LinAlgError: Singular matrix 

Jak przepisać kod?

Answer 1

Nie ma nic złego w tym kodzie. Domyślam się, że masz brakujące wartości w swoich danych. Wypróbuj dropna lub użyj missing='drop' do Logit. Możesz również sprawdzić, czy prawa strona jest pełna. np.linalg.matrix_rank(data[train_cols].values)