Czy pamięć lokalna jest wolniejsza niż pamięć współdzielona w CUDA?

Question

Znalazłem jedynie uwagę, że pamięć lokalna jest wolniejsza niż pamięć rejestrów, typy dwóch na wątek.

Pamięć współdzielona ma być szybka, ale czy jest szybsza niż pamięć lokalna [wątku]?

To, co chcę zrobić, to rodzaj filtra medianowego, ale z danym percentylem zamiast mediany. Dlatego muszę wziąć fragmenty listy, posortować je, a następnie wybrać odpowiedni. Ale nie mogę rozpocząć sortowania listy pamięci współdzielonej lub coś pójdzie nie tak. Czy stracę dużą wydajność, po prostu kopiując do lokalnej pamięci?

Answer 1

Pamięć lokalna jest po prostu wątku lokalnej pamięci globalnej. Jest znacznie, dużo wolniej (zarówno pod względem przepustowości, jak i opóźnień) niż rejestry lub pamięć dzielona. Zużywa także przepustowość kontrolera pamięci, która w przeciwnym razie byłaby dostępna dla transakcji globalnej pamięci. Wpływ wydajności na rozlanie lub celowe korzystanie z pamięci lokalnej może być dowolny od mniejszego do poważnego, w zależności od używanego sprzętu i użycia pamięci lokalnej.

Według badań Wasilij Volkov - patrz Better performance at lower occupancy (pdf) - jest o współczynnik 8 różnicy efektywnej przepustowości pomiędzy wspólną pamięcią i zarejestrować się na Fermi GPU (około 1000 Gb/s dla wspólnej pamięci i 8000 Gb/s dla rejestrów). Jest to nieco sprzeczne z dokumentacją CUDA, co oznacza, że ​​pamięć współdzielona jest porównywalna z szybkością do rejestrów.