Unikanie uprawnień 2 dla łatwości obsługi pamięci podręcznej

Question

Załóżmy, że w kodzie o znaczeniu krytycznym mamy parę macierzy, które są często używane razem, gdzie dokładny rozmiar nie ma znaczenia, wystarczy ustawić coś rozsądnego, np.

int a[256], b[256]; 

Jest to potencjalnie pessimization ponieważ niskie bity adresowe są takie same mogą utrudnić cache obsłużyć obie tablice jednocześnie? Czy byłoby lepiej określić np. 300 zamiast 256?

Answer 1

Moving mój komentarz do odpowiedzi:

Jesteś słusznie podejrzewać, że uprawnienia dwójki może być problematyczne. Ale zwykle ma to zastosowanie tylko wtedy, gdy masz więcej niż dwa kroki. Nieźle się dzieje, dopóki nie przekroczysz L1 cache associativity. Ale nawet przed tym możesz napotkać problemy z fałszywymi aliasingami.

Oto dwa przykłady, gdzie moce-of-two rzeczywiście stają się problematyczne:

• Why are elementwise additions much faster in separate loops than in a combined loop?
• Matrix multiplication: Small difference in matrix size, large difference in timings

W pierwszym przykładzie, są 4 tablice - z których wszystkie są wyrównane do tego samego przesunięcia od początku strony 4k.

W drugim przykładzie przeskakiwanie matrycy matrycy całkowicie niszczy wydajność, gdy rozmiar jest potęgą dwójki.

---

W każdym przypadku należy pamiętać, że kluczową koncepcją jest w rzeczywistości wyrównanie tablic, a nie ich rozmiar. Jeśli zauważysz, że masz spowolnienie, po prostu dodaj trochę wypełnienia między tablice, aby przerwać wyrównanie.