LWP::Simple mit timeout-Funktion

Was hab ich mich heute geärgert, weil ein Script, das externe Seiten einliest, bei LWP::Simple immer 180 Sekunden wartet, falls die Seite nicht erreichbar ist. Bei LWP::UserAgent gibts ne timeout-Einstellung, aber bei LWP::Simple laut Doku nicht.
Also mal zum Beispiel ein Code mit LWP::Useragent

use LWP::UserAgent;

my $link='http://www.testmich.de';

$agent = LWP::UserAgent->new;
$agent->timeout(20);
$agent->agent('Mozilla/4.7 [en] (WinNT; I) [Netscape]');
my $request = HTTP::Request->new('GET',$link);
$request ->header( 'Referer' => 'http://www.google.de');
my $result = $agent->request($request);
$seiteninhalt= $result->content();

Wie man sieht, wartet das Script 20 Sekunden, bevor es abbricht.
Übrigens so am Rande: Die Einstellungen agent und header "sagen" dem fremden Server, ich wär der Mozilla und käme von Google, da ich festgestellt habe daß inzwischen viele Seiten keine Infos rausrücken, wenn man inkognito kommt. Aber wie gesagt, das nur am Rande.

Bei LWP::Simple würde es dann so aussehen, allerdings ohne Referer und Agentennamen

use LWP::Simple;
$webpage='http://www.testmich.de';
if (head($webpage)){print "$webpage exists and server is up!\n";
$inhalt=get $webpage;
} else { print "$webpage is down";}

So, und wenn nun die Zielseite offline ist, kann (muß) man per Defaulteinstellung von LWP::Simple 180 Sekunden warten, bis es weitergeht. Wenn man da einige Seiten einlesen will, kann das schon mal nen Vormittag dauern...

Sehr unpraktikabel, finde ich!

Also gegoogelt, Dokus gelesen, und dann hier die Erleuchtung gefunden: LWP::Simple kann von LWP::Useragent das Timeout erben! Mal gut, daß das sonst in keiner Doku steht...

use LWP::Simple qw ($ua head get);
$ua->timeout(10);
$webpage='http://www.testmich.de';
if (head($webpage)){print "$webpage exists and server is up!\n";
$inhalt=get $webpage;
print $inhalt;

} else {print "nono, $webpage ist grad nicht erreichbar\n";}

Jetzt macht LWP::Simple das, was es soll: Es prüft, ob die Seite erreichbar ist, wartet dabei maximal 10 Sekunden, und beendet, wenn es länger als 10 Sekunden dauert.

Kommentare zum Beitrag "LWP::Simple mit timeout-Funktion"

Kommentar von Renee Bäcker

Auch auf die Gefahr hin, kleinlich zu wirken: Auch in der Überschrift sollte "Simple" mit großem "S" und kleinem "imple" geschrieben werden. Bei Windows mag das relativ egal sein, aber bei Linux kommt es auf die richtige Schreibweise an.

Kommentar von Admin

... natürlich richtig!

Großes S, kleines imple, damit läufts auch unter *NIX.

Danke für den Hinweis!

Kommentar von Thomas Mirke

Ich habe festgestellt, dass Simple über get() manchmal (z.B. alle wikipedia-Seiten) ein undef zurückgibt, wogegen UserAgent funktioniert. Hat jemand ähnliche Erfahrungen und auch gleich noch eine Erklärung?
Vielen Dank.

Thema: Perl Script

Der Beitrag "LWP::Simple mit timeout-Funktion" wurde 18521 mal gelesen.

Es wurde 4 x über diesen Beitrag abgestimmt.
Die durchschnittliche Beurteilung liegt bei
1.7 (1 = sehr gut - 6 = grottenschlecht).