User-agent: * Disallow: /cgi-bin/ Disallow: /html/de_1 Disallow: /html/Basti Disallow: /html/falsch1 Disallow: /html/falsch Disallow: /html/versuch # robots.txt fuer http://www.beispiel.de/ #User-agent: BeispielRobot #Disallow: /temp/ # Die Dateien sind sehr kurzlebig #Disallow: /logfiles/ # Die ändern sich jeden Tag #Disallow: /bilder/ # Bilder nicht downloaden #Disallow: /cgi-bin/ # CGI Ausgaben nicht indexieren #Disallow: /news.html # Die news.html ändert sich täglich