2012-10-25 12 views
5

Piszę skrypt node.js, który pobiera dane z jednego podłączonego gniazda i wysyła je do innego podłączonego gniazda. Podczas testowania zauważyłem, że jeśli rozłączam i ponownie łączę klienta w czasie, gdy serwer wysyła duże ilości danych, dostaję wycieku pamięci. Poniżej znajduje się kod node.js.skrypt node.js i możliwy wyciek pamięci

var net = require('net'); 
var logServer = net.createServer(); 
var clientList = []; 
var clientIPList = []; 
var serverList = []; 
var serverIPList = []; 
var port = 6451; 

logServer.on('connection', function(client) { 
    client.setEncoding('utf8'); 
    client.once('data', function(data) { 
     if (data[0].toString() == 'S') { 
      var server = client; 
      client = undefined; 
      serverList.push(server); 
      serverIPList.push(server.remoteAddress + ":" + server.remotePort); 
      console.log('Server connected: %s:%d', server.remoteAddress, server.remotePort); 

      server.on('data', function(data) { 
       for(var i=0;i<clientList.length;i+=1) { 
        try { 
         clientList[i].write(data); 
        } catch (err) { 
         console.log('Error writing to client "data event": ' + clientIPList[i]); 
         // close and null the socket on write error 
         try { 
          clientList[i] = null; 
          clientList[i].end(); 
         } catch (err) {} 
         clientList.splice(i, 1); 
         clientIPList.splice(i, 1); 
        } 
       }    
      }) 

      server.on('end', function() { 
       try { 
        var d; 
        if((d = serverList.indexOf(server)) != -1) { 
         console.log('Server disconnecting "end event": ' + serverIPList[d]); 
         try { 
          serverList[d] = null; 
          serverList[d].end(); 
         } catch (err) {} 
         serverList.splice(d, 1); 
         serverIPList.splice(d, 1); 
        } 
        else { 
         console.log('Server disconnecting "end event": unknown server');      
        } 
       } catch (err) { 
        console.log('Error cleaning up server socket list on "end event"'); 
       } 
      }) 

      server.on('timeout', function() { 
       try { 
        var d; 
        if((d = serverList.indexOf(server)) != -1) { 
         console.log('Server disconnecting "timeout event": ' + serverIPList[d]); 
         try { 
          serverList[d] = null; 
          serverList[d].end(); 
         } catch (err) {} 
         serverList.splice(d, 1); 
         serverIPList.splice(d, 1); 
        } 
        else { 
         console.log('Server disconnecting "timeout event": unknown server');      
        } 
       } catch (err) { 
        console.log('Error cleaning up server socket list on "timeout event"'); 
       } 
      }) 

      server.on('error', function(e) { 
       try { 
        var d; 
        if((d = serverList.indexOf(server)) != -1) { 
         console.log('Server disconnecting ' + e.code + ' "error event": ' + serverIPList[d]); 
         try { 
          serverList[d] = null; 
          serverList[d].end(); 
         } catch (err) {} 
         serverList.splice(d, 1); 
         serverIPList.splice(d, 1); 
        } 
        else { 
         console.log('Server disconnecting "error event": unknown server');     
        } 
       } catch (err) { 
        console.log('Error cleaning up server socket list on "error event"'); 
       } 
      }) 

      server.on('close', function() { 
       try { 
        var d; 
        if((d = serverList.indexOf(server)) != -1) { 
         console.log('Server disconnecting "close event": ' + serverIPList[d]); 
         try { 
          serverList[d] = null; 
          serverList[d].end(); 
         } catch (err) {} 
         serverList.splice(d, 1); 
         serverIPList.splice(d, 1); 
        } 
       } catch (err) { 
        console.log('Error cleaning up server socket list on "close event"'); 
       } 
      }) 
      server.on('drain', function() { 
      }) 
     } 

     else { 
      clientList.push(client); 
      clientIPList.push(client.remoteAddress + ":" + client.remotePort); 
      console.log('Client connected: %s:%d',client.remoteAddress, client.remotePort); 

      client.on('data', function(data) { 
       console.log('writing "%s" to %d servers', data.replace(/[\r\n]/g,''), serverList.length); 
       for(var i=0;i<serverList.length;i+=1) { 
        try { 
         serverList[i].write(data); 
        } catch (err) { 
         console.log('Error writing to server "data event": ' + serverIPList[i]); 
         try { 
          serverList[i] = null; 
          serverList[i].end(); 
         } catch (err) {} 
         serverList.splice(i, 1); 
         serverIPList.splice(i, 1); 
        } 
       } 
      }) 

      client.on('end', function() { 
       try { 
        var d; 
        if((d = clientList.indexOf(client)) != -1) { 
         console.log('Client disconnecting "end event": ' + clientIPList[d]); 
         // close and null the socket 
         try { 
          clientList[d] = null; 
          clientList[d].end(); 
         } catch (err) {} 
         clientList.splice(d, 1); 
         clientIPList.splice(d, 1); 
        } 
        else { 
         console.log('Client disconnecting "end event": unknown client'); 
        }    
       } catch (err) { 
        console.log('Error cleaning up socket client list on "end event"'); 
       } 
      }) 

      client.on('timeout', function() { 
       try { 
        client.end(); 
       } catch (err) { 
        var d; 
        if((d = clientList.indexOf(client)) != -1) { 
         console.log('Error closing client connection "timeout event": ' + clientIPList[d]); 
        } 
        else { 
         console.log('Error closing client connection "timeout event": unknown client');     
        } 
       }    
       try { 
        var d; 
        if((d = clientList.indexOf(client)) != -1) { 
         console.log('Client disconnecting "timeout event": ' + clientIPList[d]); 
         try { 
          clientList[d] = null; 
          clientList[d].end(); 
         } catch (err) {} 
         clientList.splice(d, 1); 
         clientIPList.splice(d, 1); 
        } 
        else { 
         console.log('Client disconnecting "timeout event": unknown client'); 
        }    
       } catch (err) { 
        console.log('Error cleaning up client socket list on "timeout event"'); 
       } 
      }) 

      client.on('error', function(e) { 
       try { 
        var d; 
        if((d = clientList.indexOf(client)) != -1) { 
         console.log('Client disconnecting ' + e.code + ' "error event": ' + clientIPList[d]); 
         try { 
          clientList[d] = null; 
          clientList[d].end(); 
         } catch (err) {} 
         clientList.splice(d, 1); 
         clientIPList.splice(d, 1); 
        } 
        else { 
         console.log('Client disconnecting ' + e.code + ' "error event": unknown client'); 
        }    
       } catch (err) { 
        console.log('Error cleaning up client socket list on "error event"'); 
       } 
      }) 

      client.on('close', function() { 
       try { 
        var d; 
        if((d = clientList.indexOf(client)) != -1) { 
         console.log('Client disconnecting "close event": ' + clientIPList[d]); 
         try { 
          clientList[d] = null; 
          clientList[d].end(); 
         } catch (err) {} 
         clientList.splice(d, 1); 
         clientIPList.splice(d, 1); 
        } 
       } catch (err) { 
        console.log('Error cleaning up client socket list on "close event"'); 
       } 
      }) 

      client.on('drain', function() { 
       // nothing 
      }) 
     } 
    }) 
}) 
logServer.listen(port); 

O ile mi wiadomo, jestem podając wszystkie krytyczne wydarzenia „netto” i jestem czyszczenia gniazd prawidłowo, raz wykryć rozłączenia. Oto dwa skrypty, których używam do testowania. Pierwszy po prostu łączy się i rozłącza jako klient w kółko, a drugi wysyła dane jako serwer. Prowadzę ich obu jednocześnie.

condiscon.rb: Łączy się i rozłącza po zarejestrowaniu się jako klient "wysyła znak nowej linii po nawiązaniu połączenia". Biegnę z”./condiscon.rb 1000'

#!/usr/bin/ruby 

require 'rubygems' 
require 'socket' 

def connectFlac 
    host = '10.211.55.10' 
    port = 6451 

    sock = TCPSocket.open(host, port) 
    sock.puts("") 
    sock 
end 

sock = connectFlac() 
data = [] 
user_agents = {} 
instances_lat = {} 

count = ARGV.shift.to_i 

while(count > 0) 
    sock = connectFlac() 
    sleep(0.05) 
    sock.close() 
    sleep(0.05) 
    count-= 1 
end 

dataflood.rb: Łączy jako serwer i wysyła pakiety ~ 2600 bajtów z abcde z licznikiem. Używam "dataflood.rb 30000"

#!/usr/bin/ruby 

require 'socket' 

def connectFlac 
    host = '10.211.55.10' 
    port = 6451 

    sock = TCPSocket.open(host, port) 
    sock.setsockopt(Socket::IPPROTO_TCP,Socket::TCP_NODELAY,1) 
    sock.puts("S") 
    sock 
end 

def syntax() 
    print "./script number_of_packets\n" 
    exit(1) 
end 

data = "" 
(1..100).each { 
    data+= "abcdefghijklmnopqrstuvwxyz" 
} 

sock = connectFlac() 

numpackets = ARGV.shift.to_i || syntax() 
counter = 1 
byteswritten = 0 

while(numpackets > 0) 
    r,w,e = IO.select(nil, [sock], nil, nil) 
    w.each do |sock_write| 
     print numpackets, "\n" 
     sock.write(counter.to_s + "|" + data + "\n") 
     sock.flush() 
     byteswritten+= counter.to_s.length + 1 + data.length + 1 
     counter+= 1 
     numpackets-= 1 
    end 
end 
sock.close() 

print "Wrote #{byteswritten} bytes\n" 

Oto niektóre z wyników, które widzę. Podczas uruchamiania profilu pamięci na serwerze logserver.js przed rozpoczęciem jakichkolwiek testów wykorzystuje około 9 megabajtów pamięci rezydentnej. Załączam pmap, aby pokazać część pamięci, którą wydaje się zajmować wyciek.

[[email protected] ~]# ps vwwwp 20658 
    PID TTY  STAT TIME MAJFL TRS DRS **RSS** %MEM COMMAND 
20658 pts/4 Sl+ 0:00  0 8100 581943 **8724** 0.8 /usr/local/node-v0.8.12/bin/node logserverdemo.js 

[[email protected] ~]# pmap 20658 
20658: /usr/local/node-v0.8.12/bin/node logserverdemo.js  
0000000000400000 8104K r-x-- /usr/local/node-v0.8.12/bin/node  
0000000000de9000  76K rwx-- /usr/local/node-v0.8.12/bin/node  
0000000000dfc000  40K rwx-- [ anon ]  
**000000001408a000 960K rwx-- [ anon ]**  
0000000040622000  4K ----- [ anon ] 

Po uruchomieniu dwóch skryptów rubinowe powyżej przeciw LogServer w czasie ame tutaj jest to, co wygląda jak pamięć około 30 minut po zatrzymaniu ruchu. (Czekałem na wszystko GC wydarzy)

[[email protected] ~]# ps vwwwp 20658 
    PID TTY  STAT TIME MAJFL TRS DRS RSS %MEM COMMAND 
20658 pts/4 Sl+ 0:01  0 8100 665839 **89368** 8.7 /usr/local/node-v0.8.12/bin/node logserverdemo.js 

[[email protected] ~]# pmap 20658 
20658: /usr/local/node-v0.8.12/bin/node logserverdemo.js 

0000000000400000 8104K r-x-- /usr/local/node-v0.8.12/bin/node 
0000000000de9000  76K rwx-- /usr/local/node-v0.8.12/bin/node  
0000000000dfc000  40K rwx-- [ anon ]  
**000000001408a000 80760K rwx-- [ anon ]** 
0000000040622000  4K ----- [ anon ] 
0000000040623000  64K rwx-- [ anon ] 

dataflood.rb napisali łącznie 78198894 bajtów danych i wyciek jest bardzo blisko. Zrzuciłem pamięć na 0x1408a000 i zobaczyłem, że większość pakietów wysyłanych z dataflood.rb utknęło w pamięci.

[[email protected] ~]# ./memoryprint 20658 0x1408a000 80760000 > 20658.txt 
[[email protected] ~]# strings 20658.txt | grep '|abcde' | wc -l 
30644 
[[email protected] ~]# strings 20658.txt | grep '|abcde' | sort | uniq | wc -l 
29638 

po odczekaniu 24 godzin pamięć jeszcze nie została zwolniona. Każda pomoc, którą każdy może mi dać, będzie bardzo ceniona.

+0

Mam teraz ten sam problem. Mój serwer proxy z bardzo minimalnym kodem jest nieszczelny, a profilowanie nic nie pokazuje. – majidarif

Odpowiedz

0

Prawdopodobnie nie powodując wyciek, ale jesteś end() ing gniazda po ich ustawić na wartość null:

clientList[i] = null; 
clientList[i].end(); 

Nie powinno to być na odwrót?

0

Ten problem mógł wystąpić z powodu niewyważenia prędkości między strumieniem wejściowym a strumieniem wyjściowym.

Spróbuj zmienić kod źródłowy poniżej.

<AS-IS> 

server.on('data', function(data) { 
       for(var i=0;i<clientList.length;i+=1) { 
        try { 
         clientList[i].write(data); 
        } catch (err) { 
         console.log('Error writing to client "data event": ' + clientIPList[i]); 
         // close and null the socket on write error 
         try { 
          clientList[i] = null; 
          clientList[i].end(); 
         } catch (err) {} 
         clientList.splice(i, 1); 
         clientIPList.splice(i, 1); 
        } 
       }    
      }) 

.

<TO-BE> 

for(var i=0;i<clientList.length;i+=1) { 
    try { 
     server.pipe(clientList[i]); 
    } catch (err) { 
     console.log('Error writing to client "data event": ' + clientIPList[i]); 
     // close and null the socket on write error 
     try { 
      clientList[i] = null; 
      clientList[i].end(); 
     } catch (err) {} 
      clientList.splice(i, 1); 
      clientIPList.splice(i, 1); 
     } 
    }    
} 

Kod ten dostosuje problem z pamięcią.