10
Mam ten post w użyciu Keras szkolić się RNN dla modelu językowego z dużym tensora 3D (generowane z tekstu, jednym gorącym zakodowane, a wyniki kształt (165717, 25, 7631)):"Nie wykryto g ++", a zestaw danych jest większy, czy istnieje limit rozmiaru matrycy w GPU?
WARNING (theano.configdefaults): g++ not detected ! Theano will be unable to
execute optimized C-implementations (for both CPU and GPU) and will default to
Python implementations. Performance will be severely degraded. To remove this
warning, set Theano flags cxx to an empty string.
ERROR (theano.sandbox.cuda): nvcc compiler not found on $PATH. Check your nvcc
installation and try again.
Ale wszystko idzie dobrze, a ja ograniczam rozmiar zestawu danych do małego. Tak więc zastanawiam się, czy Theano czy CUDA ograniczają rozmiar matrycy?
Poza tym, czy mam lepszy sposób na wykonanie jednej gorącej reprezentacji? Mam na myśli, że w dużym tensorze 3D, większość elementów wynosi 0 z powodu jednopiętrowej reprezentacji. Jednak nie znalazłem warstwy, która akceptuje indeksową reprezentację słów.
Wygląda na całkiem jasny komunikat o błędzie i nie ma nic wspólnego z CUDA. Twoja konfiguracja theano nie jest poprawna i nie może znaleźć kompilatorów hosta lub GPU. Napraw to i problem zniknie – talonmies
@talonmies Nie wyjaśniłem się. Mój kod działa całkiem dobrze z małym zestawem danych (tylko do debugowania mojego kodu), taki błąd występuje tylko w przypadku dużego zestawu danych. – nanoix9
Tak, ale komunikat o błędzie informuje również, dlaczego tak się dzieje. W małych rozmiarach używane są wyłącznie implementacje Pythona, ponieważ nie ma żadnej przewagi wydajności przy próbie użycia GPU – talonmies