RevealTheme logo

robots.txt-Generator

Erstellen Sie eine robots.txt-Datei auf visuelle Weise. Konfigurieren Sie die Crawling-Regeln für die wichtigsten Suchmaschinen und KI-Bots.

User-agent: *
Allow: /
Disallow: /admin/
Disallow: /api/

Sitemap: https://example.com/sitemap.xml

Was ist der robots.txt-Generator?

robots.txt teilt Webcrawlern mit, auf welche Seiten sie zugreifen dürfen und auf welche nicht. Es handelt sich um ein freiwilliges Protokoll: Wohlgesinnte Crawler respektieren es; bösartige Bots ignorieren es. Dieser Generator erstellt robots.txt-Dateien, die dem Standard entsprechen. Für komplexe Regeln konsultieren Sie robotstxt.org und die vollständige Spezifikation.

Häufig gestellte Fragen

Wo muss ich robots.txt hochladen?
Im Stammverzeichnis Ihrer Website: example.com/robots.txt. Sie muss im Stammverzeichnis liegen; in Unterverzeichnissen funktioniert sie nicht.
Sollte ich KI-Bots blockieren?
Das liegt bei Ihnen. Sie zuzulassen bedeutet, dass ChatGPT/Perplexity Ihre Inhalte referenzieren können. Sie zu blockieren verhindert das Crawlen von Trainingsdaten, verringert aber die Sichtbarkeit.

Verwandte Tools