RevealTheme logo

robots.txt 생성기

robots.txt 파일을 시각적으로 생성합니다. 주요 검색 엔진과 AI 봇에 대한 크롤링 규칙을 구성하세요.

User-agent: *
Allow: /
Disallow: /admin/
Disallow: /api/

Sitemap: https://example.com/sitemap.xml

robots.txt 생성기란 무엇인가요?

robots.txt는 웹 크롤러에게 어떤 페이지에 접근할 수 있고 없는지를 알려 줍니다. 이는 자발적 프로토콜입니다. 예의 바른 크롤러는 이를 준수하지만, 악의적인 봇은 무시합니다. 이 생성기는 표준을 준수하는 robots.txt 파일을 만듭니다. 복잡한 규칙은 robotstxt.org와 전체 사양을 참조하세요.

자주 묻는 질문

robots.txt는 어디에 업로드해야 하나요?
사이트의 루트에 업로드하세요: example.com/robots.txt. 반드시 루트에 있어야 하며, 하위 디렉터리에서는 작동하지 않습니다.
AI 봇을 차단해야 하나요?
선택에 달려 있습니다. 허용하면 ChatGPT/Perplexity가 귀하의 콘텐츠를 참조할 수 있습니다. 차단하면 학습 데이터 크롤링을 막을 수 있지만 가시성이 떨어집니다.

관련 도구