Kompresja strumienia CUDA: zrozumienie pojęcia

Question

Używam CUDA/Thrust/CUDPP. Jak rozumiem, w kompresji Stream niektóre elementy w tablicy są oznaczone jako nieprawidłowe, a następnie "usunięte".

Co tak naprawdę oznacza "usunięcie"? Załóżmy oryginalną tablicę A i ma długość 6. Jeżeli 2 elementy są nieważne (przez co stan możemy dostarczyć), a następnie

1. Czy system tworzenia nowy tablicę o rozmiarze 4 w GPU-pamięci do zapamiętywania prawidłowe elementy, aby uzyskać końcowy wynik?

2. Czy fizycznie usuwa z pamięci nieprawidłowe elementy i zmniejsza oryginalną tablicę? A do rozmiaru 4 zachowującego tylko ważne elementy?

W obu przypadkach nie oznacza to, że dynamiczny przydział pamięci dzieje się pod maską? Ale słyszałem, że dynamiczne przydzielanie pamięci nie jest możliwe w świecie CUDA.

Answer 1

Po pierwsze, dynamiczny przydział pamięci jest możliwy w CUDA na Compute Capability 2.0 i wyższych urządzeniach. Biblioteka uruchomieniowa CUDA obsługuje funkcje malloc/free i new/delete w funkcjach __device__. Ale to nie jest istotne dla odpowiedzi.

Zazwyczaj dostarczana jest wystarczająco duża macierz wyjściowa (wstępnie przydzielona, ​​często o tej samej wielkości, co tablica wejściowa), a dane wyjściowe są do niej zapisywane. Nie jest wymagana żadna alokacja dynamiczna, ale istnieje potencjalnie strata pamięci masowej. Właśnie to robi CUDPP i ciąg. Alternatywą byłoby najpierw wykonać liczenie ważnych elementów, a następnie dynamicznie przydzielać wyjściową pamięć GPU przy użyciu funkcji cudaMalloc wywoływanej z procesora głównego.