Как мошенники манипулируют искусственным интеллектом

Искусственный интеллект упрощает поиск информации, помогает автоматизировать рутинные операции и решает другие задачи. Однако ИИ применяют не только честные пользователи, но и мошенники. Злоумышленники эффективно манипулируют искусственным интеллектом в своих целях, чтобы, например, украсть конфиденциальные данные или вынудить пользователей скачать вредоносное ПО.

Директор направления Data Fusion Лиги Цифровой Экономики Александр Кобозев рассказал, почему ИИ поддаются обману и какие правила помогут защититься от злоумышленников, использующих несовершенства ИИ.

Как устроены манипуляции ИИ в поисковых системах

Чтобы разобраться, почему искусственный интеллект поддается обману и не способен самостоятельно распознать манипуляции, необходимо учесть одну его особенность. В большинстве случаев алгоритмы ИИ натренированы давать верные ответы, но при этом не понимают их содержание. Они анализируют большой объем данных, выделяют ключевые слова и на их основе формулируют ответ для пользователя. Однако если в данных содержатся неверные, но правдоподобные сведения, ИИ не всегда распознает обман.

В поисковых системах ИИ довольно давно используется для формирования рейтинга выдачи. Алгоритмы анализируют сайты по ключевым словам и другим параметрам, а затем на основе этих данных определяют позиции сайта в выдаче по разным запросам. В некоторых случаях ИИ-алгоритмы выявляют спам и страницы с нежелательным контентом, но это происходит далеко не во всех случаях. Зачастую мошенники оказываются хитрее. Так, они научились манипулировать ИИ в поисковых системах для продвижения своих сайтов. На практике это устроено следующим образом:

1. Мошенники создают контент с использованием ключевых слов для обмана ИИ и размещают на своем сайте.

2. ИИ-ассистент находит ключевые слова, но не распознает, что контент создан мошенниками, поэтому поднимает сайт в результатах поиска или выбирает его для ответа на вопрос пользователя.

3. Пользователи переходят на мошеннический сайт из поисковой выдачи и подвергаются рискам.

Кто и с какой целью манипулирует ИИ

Манипуляции с искусственным интеллектом часто становятся инструментом в руках злоумышленников. Их цель — получение доступа к конфиденциальной информации и финансовым ресурсам, а также распространение вредоносных программ.

Однако стоит отметить, что не только мошенники используют искусственный интеллект для своих целей. Маркетологи и владельцы веб-сайтов также прибегают к манипуляциям с ИИ для увеличения посещаемости своих ресурсов и продвижения услуг. Это нельзя считать мошенничеством, если контент, сгенерированный ИИ, содержит достоверную информацию и не вводит пользователей в заблуждение относительно качества товаров и услуг.

Кроме того, конкурирующие организации могут применять ИИ для снижения видимости конкурентов и повышения собственного рейтинга в поисковых системах.

Однако, к сожалению, чаще всего манипуляции с ИИ используют именно мошенники, и последствия их действий могут быть весьма серьезными.

Почему манипуляции с ИИ опасны для пользователей

Результаты недобросовестного применения ИИ весьма разнообразны. Например, злоумышленники могут добиться того, чтобы искусственный интеллект рекомендовал пользователям сайты, содержащие вредоносное ПО, которое заразит компьютер вирусом или украдет сохраненные пароли и данные банковских карт.

Кроме того, существует риск фишинга: злоумышленники могут создать поддельные сайты банков или онлайн-магазинов, чтобы вынудить пользователей ввести данные платежных карт. В результате люди могут потерять средства и даже лишиться доступа к своим счетам.

Манипуляции с искусственным интеллектом не только нарушают конфиденциальность пользователей, но и подрывают доверие к этой технологии в целом.

Другое негативное последствие — бизнес может потерять прибыль. Переходя по мошенническим ссылкам, покупатели не посещают настоящие ресурсы, а значит, не совершают заказы.

Как понять, что ИИ подвергся манипуляции, и защитить себя

Хорошая новость в том, что каждый пользователь способен самостоятельно определить, были ли ключевые слова подобраны с целью обмана ИИ.

В первую очередь необходимо обратить внимание на ранжирование сайтов. Если в топе выдачи попадаются неизвестные ресурсы, стоит насторожиться. Например, ссылки с длинными или сложными URL-адресами вполне вероятно ведут на мошеннические ресурсы. Рекомендуется воздержаться от перехода по таким ссылкам, а если избежать этого не удалось, не предоставлять таким сайтам никаких разрешений, не вводить личные данные и не скачивать файлы.

Еще один подозрительный признак — несоответствие ответов запросам. Например, в ответ на запрос о покупке смартфона пользователю предлагают поучаствовать в конкурсе. Скорее всего, это обман. О странном поведении ИИ-ассистента или подозрительных результатах выдачи лучше сообщить в поддержку платформы.

Хорошей идеей будет использовать антивирусные программы для выявления вредоносных сайтов. Соблюдение этих мер предосторожности поможет защитить данные от утечки, а деньги — от кражи.