Jak utworzyć pamięć podręczną w węźle node.js, która obsługuje jawnie dla jednoczesnych duplikatów żądań dla operacji związanej z procesorem

Question

Węzeł działa doskonale dla mnie. Mam bardzo specyficzną aplikację serwerową, która zasadniczo akceptuje żądania wykonania konkretnej procedury związanej z procesorem i wykonuje program w języku C, aby to zrobić. Chodzi o to, że jeśli mam wielu klientów, jest bardzo prawdopodobne, że otrzymam wiele wersji tego samego żądania. Byłoby miłą optymalizacją, aby jakoś poradzić sobie z tym wyraźnie, poprzez zaimplementowanie pamięci podręcznej z blokadą określonego klucza, aby inni klienci po prostu czekali na to żądanie i skopiowali odpowiedź.

Ale jestem nowy w węźle, więc nie wiem jak ustawić to w moim podstawowym mechanizmie obsługi żądań routera węzła. Oczywiście mogłem to zrobić w języku x używając podstawowych operacji współbieżności, ale wiem, że węzeł jest zorientowany na zdarzenia i myślę, że można to zrobić całkiem elegancko w zdarzeniu. Pomysły?

Answer 1

W świecie JavaScript po stronie klienta zwykle buforujesz elementy w tablicy. Jestem też nowy w węźle, więc przebacz, jeśli nie jest to odpowiedź, której szukasz, ale warto spróbować.

Po uruchomieniu serwera można ustawić pustą tablicę i zapisać wyniki za pomocą specjalnego skrótu na podstawie otrzymanego żądania. To wydaje się realnym rozwiązaniem.

E.g.

var http = require('http'); 
var cache = []; 
http.createServer(function (req, res) { 
    var obj; 
    if(!cache[key]) { 
     obj = .... // logic that gets results 
     cache[obj.key] = obj; 
    } else { 
     obj = cache[key]; 
    } 
}).listen(1337, "127.0.0.1"); 

Answer 2

Łatwy peasy .. node.js jest pojedynczy gwintowany tak, że pierwszy wniosek związany CPU blokuje serwer tak .. tak memoize wyniki. Zasadniczo ustawiasz hasz z żądanym kluczem, a przed wywołaniem programu C sprawdź hasz. Jeśli tam jest, zwróć to, gotowe. Jeśli tak nie jest, uruchom program C, wklej wyniki w krzyżyk na żądany klucz przed powrotem, następnie powrócić.

Answer 3

Kilka powyższych odpowiedzi, ale żadna z nich nie traktuje poprawnie żądania równoległego do tego samego zasobu.

Nie musisz martwić się o współbieżność podczas sprawdzania klucza pamięci podręcznej, ponieważ węzeł jest środowiskiem jednowątkowym. Wszystkie twoje działania są rzeczywiście atomowe. Wszystkie operacje asynchroniczne w węźle spowodują jednak akceptację kolejnych żądań. Zatem trzeba obsłużyć jednoczesnych żądań nakładających się tu rozwiązany z rejestracji obserwatorów do EventEmmiter:

var http = require('http'), EventEmitter = require('events').EventEmitter; 
var cache = {}; 

http.createServer(function (req, res) { 
    var key = someMagic(req), cached = cache[key]; // get some unique request identifier 

    if (!cached) { // if we've never seen this request before 
    cached = new EventEmitter(); // make this cache entry an event emitter 
    cached.status = 'running'; 
    handleAsyncRequest(function(result) { // your request handling is probably asynchronous, call this callback when you're done 
     cached.response = result; // memoize data 
     cached.status = 'finished'; 
     cached.emit('finished'); // notify all observers waiting for this request 
    }); 

    } else { 
    switch(cached.status) { // if existing request, check if it's still running or finished 
     case 'finished': 
     res.end(cached.response); // send cached response immediately if request has finished 
     break; 
     case 'running': 
     // subscribe as observer; send response when request is finished 
     cached.once('finished', function() { res.end(cached.response); }); 
     break; 
    } 
    } 
}).listen(1337, "127.0.0.1");