User-agent: *
Disallow: /cgi-bin/
Disallow: /html/de_1
Disallow: /html/Basti
Disallow: /html/falsch1
Disallow: /html/falsch
Disallow: /html/versuch
# robots.txt fuer http://www.beispiel.de/
#User-agent: BeispielRobot
#Disallow: /temp/ # Die Dateien sind sehr kurzlebig
#Disallow: /logfiles/ # Die ändern sich jeden Tag
#Disallow: /bilder/ # Bilder nicht downloaden
#Disallow: /cgi-bin/ # CGI Ausgaben nicht indexieren
#Disallow: /news.html # Die news.html ändert sich täglich