Исследователи научились выявлять вредоносных ботов по особенностям их развития в соцсетях
Приложение, которое позволяет автоматически выявлять ботов, участвующих в кибератаках, разработали сотрудники подведомственного Минобрнауки России Санкт-Петербургского федерального исследовательского центра РАН (СПб ФИЦ РАН). В основе нового подхода лежит изучение открытых данных о развитии ботов по множеству параметров (метрик), анализ которых также позволяет определить тип бота. Созданное приложение может использоваться компаниями, которые используют соцсети в коммерческих целях, для выявления и противодействия целенаправленным вредоносным воздействиям.
Сегодня боты являются важным инструментом для эффективного функционирования социальных сетей. Например, они вовлечены в работу чатов поддержки пользователей или распространения рекламы, где способны заменить целую команду из реальных людей, автоматически распространяя информацию.
Вместе с тем боты применяются и для неэтичной деятельности, например для накрутки рейтингов, написания ложных положительных отзывов о товарах и распространения дезинформации. При этом некоторые типы вредоносных ботов могут весьма успешно копировать поведение настоящих людей и составлять убедительные текстовые сообщения, сделанные при помощи нейронных сетей. Поэтому их крайне сложно распознать.
Среди метрик, которые использовали ученые для анализа потенциального бота, — «возраст» аккаунта, описание профиля, оригинальность фото- и видеоконтента, характеристики и связи друзей с ним и друг с другом и многие другие.
Чтобы обучить нейросети распознавать ботов, ученые создали экспериментальные группы в соцсетях, в которые ввели специально подготовленных ботов различных типов. Их эффективность варьировалась по стоимости, особенностям функционирования, целям, скорости работы — от этих факторов зависела способность бота успешно подражать реальным пользователям. Собранные данные о характеристиках этих ботов были использованы для составления метрик, по которым обучалась нейросеть.
Исследование поддержано грантом РНФ, его результаты опубликованы в одном из международных научных журналов.