RevealTheme logo

Gerador de robots.txt

Gere um arquivo robots.txt de forma visual. Configure as regras de rastreamento para os principais mecanismos de busca e bots de IA.

User-agent: *
Allow: /
Disallow: /admin/
Disallow: /api/

Sitemap: https://example.com/sitemap.xml

Como usar esta ferramenta

  1. 1

    Tick 'Allow all standard crawlers' to add an explicit Allow: / line, or untick it to leave it out.

  2. 2

    Enter the paths you want crawlers to skip in the disallowed box, one per line (for example /admin/ or /api/).

  3. 3

    Optionally tick 'Block AI training crawlers' to add Disallow rules for GPTBot, ClaudeBot, PerplexityBot, CCBot and Google-Extended, and paste your sitemap URL.

  4. 4

    Select the generated text in the preview box, copy it, and save it as a file named robots.txt at your domain root.

O que é o Gerador de robots.txt?

O robots.txt indica aos rastreadores web a quais páginas eles podem e não podem acessar. É um protocolo voluntário: os rastreadores que se comportam bem o respeitam; os bots maliciosos o ignoram. Este gerador cria arquivos robots.txt em conformidade com o padrão. Para regras complexas, consulte robotstxt.org e a especificação completa.

Casos de uso comuns

  • Keeping crawlers out of admin, API, or internal paths like /admin/ and /api/ while leaving the rest of the site open.

  • Generating a starter robots.txt for a brand-new site that does not have one yet.

  • Blocking the five named AI training crawlers (GPTBot, ClaudeBot, PerplexityBot, CCBot, Google-Extended) so your content is not scraped for model training.

  • Adding or correcting the Sitemap: line so search engines can discover your sitemap.xml.

  • Drafting rules quickly to paste into a CMS or static-site config, then hand-editing for anything advanced.

  • Teaching teammates what a minimal, readable robots.txt looks like before they edit the real one.

Perguntas frequentes

Onde devo enviar o robots.txt?
Na raiz do seu site: example.com/robots.txt. Ele deve ficar na raiz; em subdiretórios não funciona.
Devo bloquear os bots de IA?
Depende de você. Permiti-los significa que o ChatGPT/Perplexity podem referenciar o seu conteúdo. Bloqueá-los evita o rastreamento de dados de treinamento, mas reduz a visibilidade.

Ferramentas relacionadas