Самая дорогая ошибка с файлом правил обхода случается не на боевом сайте, а на тестовом.
Сценарий повторяется из проекта в проект. На копии для разработки стоит полный запрет обхода — это правильно. Потом копию выкладывают на боевой домен вместе со всеми файлами, и сайт исчезает из выдачи. Замечают это не сразу, потому что внешне ничего не сломано.
Обратный сценарий тоже живёт: тестовый сайт открыт всем, его находят и индексируют, и в выдаче появляется вторая копия проекта с недоделанным содержимым.
Что помогает:
— тестовые площадки закрывать паролем на уровне сервера, а не только правилами обхода;
— файл правил формировать по окружению, а не хранить один на все случаи;
— после каждой выкладки проверять содержимое файла на боевом домене;
— поставить простой монитор, который следит за файлом и сообщает об изменениях.
Проверка занимает секунды, а восстановление позиций после такой аварии — недели. Стоимость несопоставима.
—
Рядом по жанру: @mockups_ru_n1k
Robots и Sitemap
@robots_sitemap_ru_n1k
Самая дорогая ошибка с файлом правил обхода случается не на боевом сайте, а на тестовом.
Этот пост опубликован в Telegram-канале Robots и Sitemap. Подписаться можно по ссылке: @robots_sitemap_ru_n1k.