Проверка robots.txt

Проверьте, есть ли у веб-сайта файл robots.txt и пересмотрите его карту сайта и запретите правила.

Поделиться

Аналогичные инструменты

проверка страниц 404

Проверьте код состояния, возвращенный веб-сайтом для генерируемой отсутствующей страницы.

31
Проверка Noindex

Проверяет, настраивается ли веб-страница на noindex, что мешает ей появляться в поисковых системах.

44
HTTP поиск заголовков

Получить все заголовки HTTP, которые возвращает URL для типичного запроса GET.

609

Популярные инструменты