Бесплатные инструменты

Проверка robots.txt и sitemap

Введите адрес сайта. Мы прочитаем robots.txt, найдём sitemap (по robots.txt или в обычных местах) и проверим, что поисковик получит из обоих.

Бесплатно, без регистрации. Мы читаем только публичные страницы и DNS и ничего не храним.

Что проверяется

  • Googlebot и Bingbot не заблокированы для всего сайта
  • Sitemap существует и содержит страницы
  • robots.txt указывает sitemap
  • Адреса в sitemap используют хост, на котором работает сайт
  • Осмысленные даты изменений

Почему это важно

robots.txt, закрывающий весь сайт, или sitemap, полный адресов с редиректами, незаметно стоят поискового трафика и не видны ни в одном другом отчёте.

Отсутствие sitemap — не ошибка: поисковики находят страницы и по ссылкам. Мы сообщаем об этом, но не засчитываем как провал.

Учитывается один уровень индекса sitemap.

Это одна проверка. Бесплатный аудит запускает их все.

Заголовки безопасности, DMARC и SPF, поисковые теги, структурированные данные, sitemap, доступ AI-краулеров, доступность и скорость у реальных пользователей — до 20 страниц в настоящем браузере. Solo ($12/мес) добавляет промпт для исправления каждой находки.

Проверка robots.txt и sitemap | QA Spider