RevealTheme logo

Trình tạo robots.txt

Tạo tệp robots.txt một cách trực quan. Cấu hình các quy tắc thu thập dữ liệu cho các công cụ tìm kiếm chính và các bot AI.

User-agent: *
Allow: /
Disallow: /admin/
Disallow: /api/

Sitemap: https://example.com/sitemap.xml

Trình tạo robots.txt là gì?

robots.txt cho các trình thu thập dữ liệu web biết chúng có thể và không thể truy cập những trang nào. Đây là một giao thức tự nguyện: các trình thu thập dữ liệu hành xử tốt sẽ tôn trọng nó; các bot độc hại bỏ qua nó. Trình tạo này tạo ra các tệp robots.txt tuân thủ tiêu chuẩn. Đối với các quy tắc phức tạp, hãy tham khảo robotstxt.org và đặc tả đầy đủ.

Câu hỏi thường gặp

Tôi nên tải robots.txt lên đâu?
Ở thư mục gốc của trang web của bạn: example.com/robots.txt. Nó phải nằm ở thư mục gốc; trong các thư mục con thì không hoạt động.
Tôi có nên chặn các bot AI không?
Tùy bạn. Cho phép chúng có nghĩa là ChatGPT/Perplexity có thể tham chiếu nội dung của bạn. Chặn chúng sẽ ngăn việc thu thập dữ liệu huấn luyện, nhưng làm giảm khả năng hiển thị.

Công cụ liên quan