Skip to main content
CheckTown

Robots.txt-Generator

Erstellen Sie robots.txt-Dateien mit User-Agent-Regeln, Sitemaps und Crawl-Direktiven

Vorlage

Regeln

Direktive

Mehr erfahren

robots.txt-Generator: Das Crawlen deiner Website durch Suchmaschinen steuern

Lerne die robots.txt-Syntax, erstelle Regeln für Suchmaschinen und KI-Crawler und vermeide häufige SEO-Fehler.

Was ist robots.txt?

robots.txt ist eine reine Textdatei im Stammverzeichnis einer Website, die Webcrawlern mitteilt, welche Seiten oder Bereiche sie aufrufen dürfen und welche nicht. Sie folgt dem Robots-Exclusion-Protokoll, einem Standard, der seit 1994 dazu dient, Crawling-Vorgaben an Suchmaschinen-Bots, KI-Crawler und andere automatisierte Agenten zu übermitteln.

Häufig gestellte Fragen