Skip to main content
CheckTown

Генератор Robots.txt

Создавайте файлы robots.txt с правилами user-agent, картами сайта и директивами сканирования

Шаблон

Правила

Директива

Узнать больше

Генератор robots.txt: Контроль сканирования сайта поисковыми системами

Изучите синтаксис robots.txt, создайте правила для поисковых систем и ИИ-роботов.

Что такое robots.txt?

robots.txt — это обычный текстовый файл, размещённый в корне сайта, который сообщает поисковым роботам, какие страницы им разрешено или запрещено посещать. Он следует Протоколу исключения роботов, стандарту с 1994 года.

Часто задаваемые вопросы