Robots.txt-Generator
Erstellen Sie robots.txt-Dateien mit User-Agent-Regeln, Sitemaps und Crawl-Direktiven
Vorlage
Regeln
Direktive
Ctrl+Enter zum AusführenCtrl+Shift+C zum Kopieren
Mehr erfahren
robots.txt-Generator: Das Crawlen deiner Website durch Suchmaschinen steuern
Lerne die robots.txt-Syntax, erstelle Regeln für Suchmaschinen und KI-Crawler und vermeide häufige SEO-Fehler.
Was ist robots.txt?
robots.txt ist eine reine Textdatei im Stammverzeichnis einer Website, die Webcrawlern mitteilt, welche Seiten oder Bereiche sie aufrufen dürfen und welche nicht. Sie folgt dem Robots-Exclusion-Protokoll, einem Standard, der seit 1994 dazu dient, Crawling-Vorgaben an Suchmaschinen-Bots, KI-Crawler und andere automatisierte Agenten zu übermitteln.
6 Min. LesezeitVollständigen Ratgeber lesen