Глоссарий SEO
Meta robots
Meta robots — метатег на странице, который управляет её индексацией и переходом по ссылкам (index/noindex, follow/nofollow).
В отличие от robots.txt, meta robots noindex действительно исключает страницу из индекса (при условии, что робот может её обойти).
Типичная ошибка — случайно оставить noindex на важных страницах после разработки, из-за чего они пропадают из поиска.
Директивы index/noindex и follow/nofollow комбинируются. noindex, follow — типично для страниц, которые не ранжируем, но по ссылкам с них ходим.
HTTP-заголовок X-Robots-Tag — альтернатива для PDF и не-HTML файлов.
Смотрите также
Проверьте свой сайт за пару минут
Запустите бесплатное демо-аудита — увидите главные проблемы без оплаты и без подписки.