Заметил, что плохо влетают на одном из проектов документы в индекс Гугла. Крутили, вертели – без толку.
По косвенным признакам возникла гипотеза, что боты не могут получить что-то из ресурсов, так как отсекаются на уровне сервиса по защите от DDoS.
Мы добавили перечень /ipranges/ в вайтлист сервиса защиты от ддоса 26 числа, и уже 27-го получили +50к документов в индексе, а на текущий момент за 15 дней уже +300к документов в индексе.
Большая часть «влетевших» документов лежала в GSC как «Просканировано, но пока не проиндексировано».
Это всё, к сожалению или счастью, ретроспектива. Гугл интенсивно избавляется от шлака в своих базах, и даже если что-то внесет в результате использования какой-то уязвимости - то с большой степенью вероятности чуть позже и выкинет, если не увидит реальной ценности и значимости.
Хороший контент + хорошие ссылки + грамотная техничка + Indexing API в качестве кнута - вот и весь реальный арсенал.
Виктор, в целом согласен.
Я считаю что ручной индексации / сайтмап / перелинковки вполне достаточно для качественного сайта.
Также добавлю, что если все эти эти методы (или даже часть из них) не помогают в ускорении индексации сайта, то не факт что нужно тратить время на поиск дополнительных вариантов ускорения - скорее всего что-то не так именно с самим сайтом и лучше разобраться почему Гугл (или Яндекс) не хочет его индексировать. Обычно это неуникальный малополезный контент, например. Такие как не индексируй - не зайдут, либо нужно большое время "отстояться".
Ссылки не плохо отрабатывают, если сайт норм оптимизирован
Гугл интенсивно творит дичь. Просто вы, видимо, не столкнулись с его октябрьско-ноябрьским обновлением.
Ботом индексирую мои сайты, залетает все в течение суток двое, сам индекс сейчас это не проблема, благо выбор сервисов достойный, трафик это важнее, индекс не равно трафик, поэтому пол белы загнать в индекс, надо получить позиции в выдаче, а это тема более сложная. Бот которым загоняю @speedyindexbot
Да, ботов сейчас полно, не то ,то раньше ) статья скорее для тех, кому классические методы и боты не помогли
наверное напишу статью на тему сервисов и ботов по ускорению индексации. я пользовался уже несколькими, результаты неоднозначные. абсолютно согласен с комментаторами, которые говорят о ценности контента и по сути о том, что "как вошло, так и выйдет"))