Кража данных с помощью AI увеличилась на 340%
Привет, на связи Константин Багров. Я backend разработчик, на текущий момент занимаюсь разработкой ПО на фрилансе. В этой статье пойдет речь о краже данных с помощью AI.
ИИ реально сильный инструмент, который дает возможность людям изменить свою рутину или сделать какое-либо открытие. Но у каждой монеты есть обратная сторона. Именно об этом и пойдет речь.
По мере развития киберугроз, безопасность личных данных становится все более важной составляющей в борьбе с кибератаками. Недавний отчет SlashNext показал, что недоброжелательные лица используют инструменты ИИ для помощи фишинговым аферам, что привело к увеличению числа мошеннических операций на 341 % всего за шесть месяцев.
Как мошенники умудряются использовать AI?
Атаки на идентификационные данные становятся все более изощренными, поскольку злоумышленники используют искусственный интеллект для автоматизации и масштабирования.
Джим Алкове, бывший директор по вопросам доверия в компании Salesforce и Microsoft Security CVP, а ныне генеральный директор компании Oleria, рассказал о безопасности идентификации.
"Идентификация - самая большая проблема в кибербезопасности на сегодняшний день. Если вы не знаете, кто и что взаимодействует с вашими данными, вы не сможете их защитить".
Помимо того, что каждая утечка информации обходится американским компаниям в среднем в 9,48 миллиона долларов, инциденты, связанные с безопасностью личных данных или их кражей, наносят значительный репутационный ущерб. Алкове рассказал о скрытых издержках кражи личных данных.
"Когда в компании происходит крупный инцидент, связанный с безопасностью, это не только сказывается на операционной деятельности, но и может повлиять на доверие клиентов и партнеров в долгосрочной перспективе".
"Учитывая рекордное количество утечек информации в этом году и новые угрозы безопасности, основанные на искусственном интеллекте, для предприятий как никогда важно развивать и модернизировать свой подход к защите идентификационных данных".
ИИ используют для генерации супер-персонализированных email писем и для создания deepfakes
ИИ обходит систему безопасности компаний
Кристофер Теннисон, директор по маркетингу продуктов компании Kount (компания занимается вопросами мошенничества) рассказал о том, как вредоносные боты были усовершенствованы с помощью искусственного интеллекта, что усложнило обнаружение мошенничества.
Теннисон объяснил, что ботов, которые выполняли определенные действия, было легко обнаружить с помощью моделей машинного обучения и искусственного интеллекта, способных идентифицировать нечеловеческое поведение.
"Тогда мошенникам пришлось приспосабливаться, и они сами стали использовать искусственный интеллект. Простой скрипт не только обеспечивает поведение, но и имитирует поведение реального человека".
"Появление Gen AI только расширило эти возможности, позволив ботам обходить широко распространенные проверки на обнаружение ботов, такие как CAPTCHA", - говорит Теннисон.
Используя GenAI, злоумышленники могут создавать тексты на любом языке и обходить автоматизированные модели безопасности, которые используют нюансы и ошибки для обнаружения атаки.
Итог
Как рассказал Крис Хиллс, главный стратег по безопасности компании BeyondTrust "Угрозы идентификации, основанные на искусственном интеллекте, находятся на ранней стадии. Они будут становиться все более изощренными, ИИ позволит субъектам угроз оптимизировать пути атак со скоростью, которой мы еще не видели и которой не подвергались."
Скрытые издержки этих атак выходят далеко за рамки финансовых потерь, влияя на доверие, операции и даже инновации. Поскольку ИИ продолжает развиваться, организациям необходимо срочно адаптировать свои стратегии безопасности для борьбы с этой растущей угрозой, иначе они рискуют столкнуться с катастрофическими последствиями.
Насколько по вашему мнение опасен AI? Что думаете про deepfake и другие способы мошенничества?
Мой тг -
Рост количества фишинговых атак и других мошеннических действий вызывает серьезные опасения
ну это очевидный факт, как и то что при помощи ИИ такие вещи будут проще для мошенников