2013-06-06 12 views
5

Obecnie pracuję nad skrobaczki internetowej przy użyciu java. Ręcznie wysyłam żądanie GET, konfigurując połączenie TCP i używając drukarki.Ręczne wysyłanie żądania GET do strony internetowej. 302 błąd przekierowania

Jestem w stanie połączyć się z większością stron internetowych, takich jak yahoo.com lub cracked.com i otrzymać odpowiedź, ALE nie mogę połączyć się z moją docelową witryną - winylengine.com. Zawsze zwróci błąd 302.

Porównałem moje żądanie wysłania z przeglądarką i są one prawie identyczne.

Mój nagłówek:

GET/HTTP/1.1 
Host: www.vinylengine.com 

Moja odpowiedź: header

HTTP/1.1 302 Found 
Date: Thu, 06 Jun 2013 19:27:00 GMT 
Server: Apache 
Location: http://www.nakedresource.com/ 
Cache-Control: max-age=1209600 
Expires: Thu, 20 Jun 2013 19:27:00 GMT 
Content-Length: 213 
Content-Type: text/html; charset=iso-8859-1 

<!DOCTYPE HTML PUBLIC "-//IETF//DTD HTML 2.0//EN"> 
<html><head> 
<title>302 Found</title> 
</head><body> 
<h1>Found</h1> 
<p>The document has moved <a href="http://www.nakedresource.com/">here</a>.</p> 
</body></html> 

przeglądarki:

GET http://www.vinylengine.com/ HTTP/1.1 
Host: www.vinylengine.com 
User-Agent: Mozilla/5.0 (Windows NT 6.2; WOW64; rv:21.0) Gecko/20100101 Firefox/21.0 
Accept: text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8 
Accept-Language: en-US,en;q=0.5 
Accept-Encoding: gzip, deflate 
Cookie: __utma=72407316.18415374.1370488314.1370497873.1370543389.3; __utmz=72407316.1370488314.1.1.utmccn=(direct)|utmcsr=(direct)|utmcmd=(none); SESSaf8d12283bdbdc5f5bbfb2aef054db6d=1f0676e5cab0ba2c5a80e76ea0bd6f75; __utmc=72407316; has_js=1; __utmb=72407316 
Connection: keep-alive 
If-Modified-Since: Thu, 06 Jun 2013 18:02:53 GMT 
If-None-Match: "2186d59ac297e0f1a43433fa61e8a94b" 

Kod:

public void sendRequest(String extensionString, String urlString) 
{ 
    try 
    { 
     //BufferedReader inFromServer; 
     //PrintWriter outToServer; 
     //These 2 are initalized elsewhere 

     outToServer.println("GET " + extensionString + " HTTP/1.1"); 
     outToServer.println("Host: " + urlString); 

     outToServer.println(""); 
     outToServer.flush(); 

     String temp; 
     while((temp=inFromServer.readLine()) != null) 
     { 
      System.out.println(temp); 
     } 

     return; 
    } 
    catch (Exception e) 
    { 
     System.out.printf("sendRequest failed: %s",e); 
     return; 
    } 
} 

Próbowałem zmienić nazwę hosta do nakedresource.com, ale kiedy to zrobić, mam źródło strony dla nakedresource.com i nie vinylengine.com

+1

HTTP 302 oznacza przekierowanie, więc musisz ponownie połączyć się z przekierowanym adresem URL. – nidhin

+0

Nie robisz tego samego, co przeglądarka, ale zastanawiasz się, dlaczego wyniki są różne? –

Odpowiedz

6

w danym miejscu jest patrząc na ciąg agenta użytkownika (lub ich braku w danym przypadku).

Kiedy mówisz, że robisz "prawie to samo" co przeglądarka ... masz rację. A komputery są trochę wybredne w takich sprawach.

Jeśli nie podasz nagłówka User-Agent:, otrzymasz przekierowanie.

> telnet www.vinylengine.com 80
Starając 67.225.154.112 ...
Połączony vinylengine.com.
Ucieczka z postaci to "^]".
GET/HTTP/1.1 Host
: www.vinylengine.com
Accept: */*

HTTP/1.1 302 Found
...

Zważywszy, jeśli nie zostanie podany, można uzyskać na stronie:

> telnet www.vinylengine.com 80
Trying 67.225.154.112 ...
Połączony vinylengine.com.
Ucieczka z postaci to "^]".
GET/HTTP/1.1 Host
: www.vinylengine.com
User-Agent: curl/7.21.4 (Universal-apple-darwin11.0) libcurl/7.21.4 OpenSSL/0.9.8r zlib/1.2. 5
Accept: */*

HTTP/1.1 200 OK
... (strona)

odbywa się to zazwyczaj, ponieważ witryna jest zapewnienie różne wersje treści do różnych przeglądarek określone przez nagłówek User-Agent. Najwyraźniej ich odpowiedzią na "brak User-Agenta" jest ... punt, a przekierowanie do głównego katalogu witryny macierzystej.

+0

+1 Dokładnie moje odkrycie (nawet do tej samej wersji zLib :). –

+0

Dzięki temu rozwiązano problem! –

1

ten może być możliwe, gdy masz skonfigurowane proxy w przeglądarce, ale JVM nie jest tego świadoma.

próbie uruchomienia JVM z następującymi argumentami i sprawdzić, czy to rozwiązuje problem:

-Dhttp.proxyHost=10.12.11.1 -Dhttp.proxyPort=8800 
+0

Problem polega na tym, że witryna szuka ciągu agenta użytkownika. –

3
HttpURLConnection.setFollowRedirects(true); 

Jeśli używasz HttpURLConnection użyć powyższy kod.

odnoszą się także do Example showing HTTP redirects

+2

Po prostu FYI, przekierowanie jest spowodowane brakiem ciągu 'User-Agent'. Następnie przenosi użytkownika do innej (macierzystej) witryny, a nie do właściwej strony. –

+0

Możesz zawsze zapoznać się z http://stackoverflow.com/questions/2529682/setting-user-agent-of-a-java-urlconnection, aby dowiedzieć się, jak dodać ciąg agenta użytkownika. – user1889970

Powiązane problemy