Как распознать ботов на сайте через заголовки сервера?

Год за годом интернет все больше наполняется разного рода ботами, которые посещают сайты в зловредных целях. В результате "нагула" ботов падают позиции сайта в Яндекс и Google, повышается стоимость конверсии в Яндекс Директ и растет нагрузка на сервера.

Октябрь 2024 года. Попросил ИИ написать текст для генерации картинки в другом ИИ про то, как ИИ взламывает программный код.

Все красиво и подробно, только вот в конце смазали все впечатление. Рассказывали про сканеры и парсеры, а потом приплели Cloudflare и возможность показа капчи, причем как будто это что-то плохое, в умелых руках. Это лучше, чем просто банить всю подсеть в htaccess.

Это не лучше. Пользователи отваливаются, конверсия падает. При наличии платного трафика ваш Cloudflare - это вообще убытки.
И все из-за нежелания «банить всю подсеть».
Трафик - дело тонкое.