Google App Engine dziwne opóźnienie

Question

Znacznie poprawiłem mój kod i teraz wszystkie interfejsy API działają naprawdę szybko, dodałem też memcache i mam świetny stosunek trafień .. Ale czasami dostaję bezsensowne opóźnienia.

Załączam tutaj najważniejszy zrzut ekranu z Appstats: łącznie ponad 20 sekund, aby uruchomić 90 ms RPC; Jak to jest możliwe? Gdzie powinienem szukać, skąd pochodzą te opóźnienia?

Naprawdę utknąłem, ponieważ nie rozumiem, co dzieje się między RPC i nie wiem, co jeszcze mogę zrobić, aby uzyskać więcej informacji.

Tylko jedna myśl: każde połączenie HTTP jest obsługiwane przez tę samą instancję GAE, prawda? Ponieważ moje instancje zajęło dużo czasu, aby się rozgrzać .. Ale nie sądzę, że jest to powiązane

BTW: Koduję w Javie.

Answer 1

Zwykle nierozliczone dla "dziury" w środku appstats jest wykonywanie kodu.
Appstats rejestruje każdy wpis rpc i kończy działanie, a obszary, których nie może on zarejestrować, są rzeczywistymi uruchomionymi kodami.

Czy masz dzienniki na czas, w którym aplikacja znajdowała się między tymi dwoma połączeniami?

Answer 2

Huge 'niewyjaśnione' latency jest prawie zawsze rozgrzewka żądań wydziobujących zasobów. Sprawdź dzienniki appengine, aby zobaczyć, ile api_ms i cpu_ms są używane podczas rozgrzewek.

Można uniknąć rozgrzewania, zwiększając maksymalne opóźnienie w panelu sterowania aparatem. Zezwolenie na większe opóźnienie oznacza, że ​​żądania będą czekać dłużej przed uruchomieniem nowej instancji. Może to spowodować, że każde żądanie będzie trochę wolniejsze, ale unikniesz dużych żądań ładowania.

Aby pomóc wniosków Warmup, upewnij się, że AppEngine-web.xml posiada:

<warmup-requests-enabled>true</warmup-requests-enabled> 

Spowoduje dyspozytora AppEngine do zapobiegawczo odpalić nowe przypadki, gdy obecne te są przeciążone {tj zaczyna się ładowanie, zanim żądanie trafi do nowej instancji}.

następnie, w dotkniętych wolnych apletów, upewnij się umieścić ładunek na starcie w web.xml:

<servlet> 
    <servlet-name>my-servlet</servlet-name> 
    <servlet-class>com.company.MyServlet</servlet-class> 
    <load-on-startup>1</load-on-startup> 
</servlet> 

obciążenie na starcie jedynie zapewnia, że ​​o wysokim priorytecie serwlety są zawsze gotowe od razu po zakończeniu żądania rozgrzewania.