/blog/perl


substr() in Perl
[127908 mal gelesen]
foreach in Perl
[116785 mal gelesen]
Arrays in Perl - Besonderheiten
[109927 mal gelesen]
open() - Dateien öffnen in Perl
[98187 mal gelesen]
split() in Perl - Zeichenketten teilen
[89818 mal gelesen]
chomp() in Perl
[84894 mal gelesen]
grep - Listen durchsuchen in Perl
[82184 mal gelesen]
push in Perl
[79221 mal gelesen]
sleep in Perl - Das aktuelle Script warten lassen
[61788 mal gelesen]
print in Perl
[50029 mal gelesen]


Arrays
Dateien
HTPC
Hashes
Leistungsoptimiert
PHP
Perl
RegEx
Schleifen
Script
Skalare
Sonstiges
System
Webserver
Zur Startseite


Donnerstag, 6.12.2007, 17:25:53 Uhr

Google Sitemaps - Script zur Erstellung einer Sitemap-Datei für Google


Googles Sitemaps sollen helfen, daß einzelne Webseiten von Google auch dann gefunden werden, wenn sie nirgends verlinkt sind. Dies ist dann wichtig, wenn man häufig wechselnden Content hat und ältere Beiträge nicht verloren gehen sollen. Zudem verspricht Google, daß die Indizierung dann schneller erfolgt.
Was liegt also näher, als sich ein kleines Perl-Script zu schreiben, das eine solche Sitemap erzeugt, und zwar direkt auf dem Server?

Also machte ich mich mal ran an das Problem, und zwar mit folgenden Vorgaben:
- Leicht zu konfigurieren
- findet alle Dateien auf dem Server
- Angabe von Ordnern, auf Wunsch inkl. Unterordner
- korrekte Angabe von Umlauten und Sonderzeichen

Also hab ich mal folgendes Script geschrieben

#!/usr/bin/perl

print <<EOF;
Content-Type: text/html\n\n
<HTML>\n<HEAD>\n
<Title>Sitemapper for Google</Title>
</HEAD>
<Body>
EOF

#############
# Parameters
#############

my $domain='http://www.hidemail.de'; # Your domain without ending /
my $to_root='../';# Path to your HTDOCS-Root with ending /
my $filename='sitemap.xml';# Sitemap-File
my $folders='test';# Processed folders, separated by ,
# If you want to include subfolders, place a +before the foldername, for example '+sites'

my $filetypes='.htm.html.txt.php.shtml';# Filetypes


###############
# End of Params
###############
use CGI::Carp "fatalsToBrowser";
use URI::Escape qw(uri_escape_utf8);

$folders=~ s/\, +/\,/g;
my @folders=split(',',$folders);
my %files=();

foreach (@folders){
my $include_subdirs=0;
if (substr($_,0,1) eq '+'){$include_subdirs=1; $_=~ s/^\+//;}

@files=get_all_files("$to_root$_",$include_subdirs,$filetypes);
foreach my $file (@files) {
$file=~ s/\/\.\//\//;
$time=(stat($file))[9];
$file=~ s/^$to_root/$domain\//;
$files{$file}=$time;
}
}
print qq~<b>Processing Files</b><br>\n~;
open (my $sitemap,">",$to_root.$filename) || die ("Can not create Sitemap-File");

print $sitemap <<EOF;
<?xml version="1.0" encoding="UTF-8"?>
<urlset xmlns="http://www.google.com/schemas/sitemap/0.84"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://www.google.com/schemas/sitemap/0.84
http://www.google.com/schemas/sitemap/0.84/sitemap.xsd">
EOF


foreach (keys %files){print qq~$_<br>\n~;
my ($Sekunde, $Minute, $Stunde, $Tag, $Monat, $Jahr) = localtime($files{$_});
$Monat++;
$Jahr+=1900;
$Tag="0$Tag" if (length($Tag)==1);
$Monat="0$Monat" if (length($Monat)==1);
$Sekunde="0$Sekunde" if (length($Sekunde)==1);
$Minute="0$Minute" if (length($Minute)==1);
$Stunde="0$Stunde" if (length($Stunde)==1);
my $datum="$Jahr-$Monat-$Tag"."T";
my $zeit="$Stunde:$Minute:$Sekunde";
$_=~ s/</\<\;/g;
$_=~ s/>/\>\;/g;
$_=~ s/\&/\&\;/g;
$_=~ s/\'/\'\;/g;
$_=~ s/\"/\"\;/g;

$_=uri_escape_utf8($_,"\x00-\x1f\x7f-\xff" );
print $sitemap <<EOF;

<url><loc>$_</loc><lastmod>$datum$zeit+00:00</lastmod></url>
EOF

}

print $sitemap "</urlset>";
close $sitemap;

print "ready";

exit;


###################
# Parameter
# 0: Startdir ohne abschließendes /, aktuelles Verzeichnis = .
# 1: Unterverzeichnisse durchsuchen? 1: ja, 0: nein
# 2: Dateitypen in form .txt.htm.html , also direkt hintereinander, aber nur wenn nötig
#
# Neues Feature:
# Es kann ab sofort auch ein hash erzeugt werden, der als keys den Dateinamen mit Ordner usw. hat UND als Value den Dateinamen selbst
# 3: Nur kompletten Dateinamen oder Hash mit kompletten Dateiname und Dateinamen allein : 0 oder 1
# ansonsten wird alles gezeigt
#
# Einbindung per
# require 'lib.pl';
#
#
# Aufruf per:
#
# @dateien=get_all_files('c:/htdocs/',1,'.shtml.htm.txt');
#
# oder
#
# %dateien=get_all_files('c:/htdocs/',1,'.shtml.htm.txt',1);
#
# Autor: Peter Baumann
# Dieses Script darf bei Nennung des Autors frei verwendet werden
#############################################
sub get_all_files{

my $startdir=shift;
my $include_subdirs=shift;
my $endings=shift;
my $extendet=shift;

my %endings=();
$endings=~ s/\s//g;
my @endings=split('\.',$endings);
shift @endings;

my $endings=0;
$startdir=~ s/\/$//;

if (@endings != 0){
$endings=1; # wenn Endungen angegeben
foreach (@endings){
$endings{$_}=1;
}
}
@endings=();

my @dateien=();
push (my @all_directories,$startdir);

foreach my $akdir(@all_directories){

opendir (my $IN,$akdir);
my @all=readdir($IN);
closedir $IN;

foreach my $akdatei (@all){ next if ($akdatei eq '..' || $akdatei eq '.');
if (-d "$akdir/$akdatei") {
if ($include_subdirs == 1){
push (@all_directories,"$akdir/$akdatei");
next;
}
} else {
if ($endings==0){
push (@dateien,"$akdir/$akdatei");
push (@dateien,$akdatei) if ($extendet == 1);
}
else
{
my $lastpoint=rindex($akdatei,".");
next if $lastpoint == -1; # Keine Dateiendung gefunden

my $endung=substr($akdatei,$lastpoint+1-length($akdatei));

if ($endings{$endung} == 1){
push (@dateien,"$akdir/$akdatei");
push (@dateien,$akdatei) if ($extendet == 1);
}
}
}
}
}
return @dateien;
}



Naja, hier gibts die Version zum herunterladen...
Und wie funktioniert das nun?
Öffnen Sie die Datei mit einem Editor und edieren Sie die Parameter:
my $domain='http://www.ihredomain.de'; # Your domain without ending /
my $to_root='../';# Path to your HTDOCS-Root with ending /
my $filename='sitemap.xml';# Sitemap-File
my $folders='test';

Die $domain ist Ihre Domain, ohne abschließendes /.
$to_root gibt an, wo das Hauptverzeichnis liegt, in dem die zu durchsuchenden Seiten liegen, also im Normalfall '../'.
$filename ist der Dateiname der Sitemap, die später im HTML-Root angelegt wird.
$folder sind schließlich die Ordner, die durchsucht werden sollen, getrennt durch ein Komma. Sollen unterordner durchsucht werden, wird dem Ordnernamen ein + vorangestellt.
Will man das gesamte Document-Root, also die Ebene, in der die index.html oder .php oder shtml oder was auch immer liegt, so kann man '+./' angeben. Dann werden auch alle Unterverzeichnisse eingelesen. Aber wirklich ALLE!

Bringen Sie das Script in Ihren cgi-bin-Ordner und setzen Sie die Rechte auf 0755.

Der Aufruf erfolgt per: http://www.ihredomain.de/cgi-bin/sm.pl. Die Sitemap wird erzeugt.

Und wie funktioniert das Script?
Nun, das Script nutzt die Routine get_all_files, die ich hier schonmal vorgestellt habe. Es werden also alle Dateien mit der richtigen Endung gefunden. Anschließend werden die Daten der letzten Änderung gesucht und als passende Zeichenfolge in die Sitemap-Dateien geschrieben. Wichtig ist vorher, daß Umlaute wie ä ö ü codiert werden, und zwar nach Unicode. Sonst schimpft Google... Das macht die Zeile $_=uri_escape_utf8($_,"\x00-\x1f\x7f-\xff" );, die wirklich nur Sonderzeichen umwandelt, nicht aber / oder _-Zeichen.

Ich hoffe, das kleine Script gefällt...

Die Originalbeschreibung zu den Sitemaps gibt es hier zu lesen.
Übrigens
Wie man in der Dokumentation sehen kann, gibt es noch die Optionen changefreq und priority. Diese Optionen werden von diesem Script nicht unterstützt.

Genauso ist es nicht möglich, einzelne Dateien auszuschließen, wenn sie nicht indiziert werden sollen.


Thema: Webserver Perl Script

Der Beitrag "Google Sitemaps - Script zur Erstellung einer Sitemap-Datei für Google" wurde 5281 mal gelesen.

Es wurde 3 x über diesen Beitrag abgestimmt.
Die durchschnittliche Beurteilung liegt bei
2 (1 = sehr gut - 6 = grottenschlecht).

Kommentar schreiben  Druckansicht  Seitenanfang 
Beurteilen 






 Zufällige Beiträge im /blog/perl

Alle Dateien eines Verzeichnisses löschen - Aber bitte mit Ausnahmen!

Kommentare in regulären Ausdrücken

Bestimmte Anzahl von Zeilen aus Datei einlesen - Probleme eines Lesers

undef in Perl

stat - Eigenschaften von Dateien ermitteln

Mails versenden mit Perl - Sendmail

Prüfen ob Variable belegt ist - defined in Perl

Speedtest File::Find



0.018427848815918 sec. to build



...Blogsoftware in pure Perl - Powered by a lot of Coffee...


SSD-Festplatte - Wassn das???
Die Transliteration - Nur ein Zeichen in einem Skalar ersetzen
Select - Case in Perl
Windows 7 XP Mode – Wo finde ich den XP-Modus unter Windows 7?
Mac-Adresse beim Apple Macintosh herausfinden
SGN-Funktion für Perl
truncate - Dateigröße verändern in Perl
Eigene IP herausfinden mit Perl
Epoche live in Datum umwandeln
Firefox 3 - Exe-Files downloaden


Von: Fabian
Kommentar:
Hallo zusammen,
ich suche schon etwas im Internet und bin bisher nicht fündig geworden.
Zum Beitrag


Von: Schorschel eastcoast
Kommentar:
Danke. Das hat mir weitergeholfen.
Zum Beitrag


Von: Jessica
Kommentar:
Kann man auch zwei Datein parallel einlesen?

Zum Beitrag


Von: Xtravaganz
Kommentar:
Für

Zum Beitrag


Von: Xtravaganz
Kommentar:
Für

Zum Beitrag



Gesamtverzeichnis
Februar 2010
Dezember 2009
Oktober 2009
Januar 2009
Dezember 2008
November 2008
September 2008
August 2008
Juli 2008
Juni 2008
Mai 2008
April 2008
Januar 2008
Dezember 2007
November 2007
Oktober 2007
September 2007
August 2007
Juni 2007
Mai 2007
April 2007
März 2007
Februar 2007
Januar 2007
Dezember 2006


Mister Wong

RSS-Feed

Heute ist der
19.9.2018

Es ist
3:50:40 Uhr

Ihre IP:
54.198.52.82

Blog-Einträge: 186

Die letzten 24 Stunden im Überblick


Gelesene Beiträge insgesamt:
3713526


Webseiten vergleichen
Kalender mit Feiertagen - 2028
Links finden und testen
Menschliche Datumsangaben
IP zu Domain herausfinden
Time live in Datum umwandeln
Perl für Windows



Mo Di Mi Do Fr Sa So
12
3456789
10111213141516
17181920212223
24252627282930

Impressum