DOM.RIA.com — это маркетплейс недвижимости. Ежедневно на сайт добавляются тысячи объявлений о продаже и аренде недвижимости. Структура сайта очень большая и сложная. Потому чтобы обеспечить свежесть контента в поиске, нужно максимально улучшать сканирование сайта поисковыми роботами.
Спасибо за кейс. У меня тоже как-то увеличилось количество просканированных страниц, а при детальном анализе оказалось, что гуглбот нашёл то, что не должен был найти..
Да, нужно следить, чтобы не слить краулинговый бюджет впустую)