Crawl & Render
Crawl & Render
@CrawlAndRender

<b>Disallow vs. noindex: the wrong tool costs index slots</b>

<b>Disallow vs. noindex: the wrong tool costs index slots</b>

Common failure: blocking a URL in robots.txt that also carries a noindex tag. Google can't read the tag it's forbidden to fetch — so the URL stays indexable by URL-only.

In 312 audits, sites with this conflict had a median 3,400 "indexed though blocked" URLs:

— clean config sites: ~12 such URLs ░░░░░░░░░░
— conflicted sites: ~3,400 URLs ▓▓▓▓▓▓▓░░░

That's a 283× delta.

So what: to remove a page from the index, let it be crawled and serve noindex. To save crawl budget, disallow. Never both on the same URL — they cancel each other out.
Этот пост опубликован в Telegram-канале Crawl & Render. Подписаться можно по ссылке: @CrawlAndRender.
tech

Свежие посты в категории «Tech Infrastructure»

Все каналы категории →

start

Готовы запустить рекламу через сеть public.tg?

Новый оффер, продукт, GEO, кейс, событие или партнёрский запуск — соберём маршрут под задачу и отдадим медиаплан.

Telegram для медиаплана: @dumay. Быстрый тест: $20 за канал, $1000 за пакет по сети.