BaiRBIE.me завоевывает мир: в чем опасность нейронок и чат-ботов

Искусственный интеллект сегодня на волне популярности, а тренд, который прямо сейчас завоевывает мировую известность в интернете — нейросеть, превращающая любого человека на фотографии в Барби (я тоже не удержалась попробовать).

Так ли безобидно использование нейросетей и чат-ботов? Мой краткий обзор на эту тему.

1. Угроза распространения дипфейков и дезинформации.

Объявления с предложением услуг по созданию дипфейк-роликов уже есть в даркнете , а создавать их могут с разными целям: от мошенничества и шантажа, нацеленных на конкретного человека, до дезинформации общества в целом.

Отличить сгенерированное фото или видео от настоящего невооруженным глазом порой очень трудно, что осложняет борьбу с фейками.

Что касается чат-ботов, то здесь есть риск выдачи ими ошибочных данных за правильные, поскольку главной задачей чат-бота является генерация естественного, а не достоверного ответа.

2. Угроза утечки персональных данных.

Массив информации, добровольно генерируемый людьми, является очень ценным ресурсом не только для искусственного интеллекта.

Относительно чат-ботов, мы не знаем, как хранятся архивы запросов пользователей, и какова вероятность, что ваши данные не попадут в выдачу для другого пользователя (хоть официально разработчики, например, СhatGPT заявляют, что нейросеть не обучается на новых данных).

3. Угроза усиления работы мошенников.

Искусственный интеллект используется киберпреступниками для автоматизации своих процессов, повышения достоверности текстов и другого контента, через который обманывают интернет-пользователей.

Весной этого года специалистами по инфобезу отмечены первые масштабные фишинговые рассылки, письма в которых созданы с применением ChatGPT.

Как обезопасить себя при использовании сервисов, основанных на ИИ?

✔ Перепроверять любую информацию и не доверять нейросетям и чат-ботам на 100%

✔ Осмысленно относиться к тому, что в них загружаете: готовы сделать эти данные общедоступными? Точно ли публикация этой информации не принесет вреда отдельной личности или организации?

✔ Ограничивать для ботов и нейронок передачу данных от аккаунтов в соцсетях и других ваших ресурсов

✔ Использовать программы с известным владельцем, хорошим рейтингом и отзывами

✔ Если пришлось использовать малоизвестный ресурс – вводите ненастоящую информацию о себе, используйте отдельный почтовый ящик и пароль

Есть предложения, чем расширить список? Будет интересно увидеть рекомендации в комментариях ;)