Искусственный интеллект сегодня на волне популярности, а тренд, который прямо сейчас завоевывает мировую известность в интернете — нейросеть, превращающая любого человека на фотографии в Барби (я тоже не удержалась попробовать).
Так ли безобидно использование нейросетей и чат-ботов? Мой краткий обзор на эту тему.
1. Угроза распространения дипфейков и дезинформации.
Объявления с предложением услуг по созданию дипфейк-роликов уже есть в даркнете , а создавать их могут с разными целям: от мошенничества и шантажа, нацеленных на конкретного человека, до дезинформации общества в целом.
Отличить сгенерированное фото или видео от настоящего невооруженным глазом порой очень трудно, что осложняет борьбу с фейками.
Что касается чат-ботов, то здесь есть риск выдачи ими ошибочных данных за правильные, поскольку главной задачей чат-бота является генерация естественного, а не достоверного ответа.
2. Угроза утечки персональных данных.
Массив информации, добровольно генерируемый людьми, является очень ценным ресурсом не только для искусственного интеллекта.
Относительно чат-ботов, мы не знаем, как хранятся архивы запросов пользователей, и какова вероятность, что ваши данные не попадут в выдачу для другого пользователя (хоть официально разработчики, например, СhatGPT заявляют, что нейросеть не обучается на новых данных).
3. Угроза усиления работы мошенников.
Искусственный интеллект используется киберпреступниками для автоматизации своих процессов, повышения достоверности текстов и другого контента, через который обманывают интернет-пользователей.
Весной этого года специалистами по инфобезу отмечены первые масштабные фишинговые рассылки, письма в которых созданы с применением ChatGPT.
Как обезопасить себя при использовании сервисов, основанных на ИИ?
✔ Перепроверять любую информацию и не доверять нейросетям и чат-ботам на 100%
✔ Осмысленно относиться к тому, что в них загружаете: готовы сделать эти данные общедоступными? Точно ли публикация этой информации не принесет вреда отдельной личности или организации?
✔ Ограничивать для ботов и нейронок передачу данных от аккаунтов в соцсетях и других ваших ресурсов
✔ Использовать программы с известным владельцем, хорошим рейтингом и отзывами
✔ Если пришлось использовать малоизвестный ресурс – вводите ненастоящую информацию о себе, используйте отдельный почтовый ящик и пароль
Есть предложения, чем расширить список? Будет интересно увидеть рекомендации в комментариях ;)
включил я как то кино новое барби, чисто Марго посмотреть в розовом платье, стали листать и... я ска это кино в итоге посмотрел... что происходит?!! Уличная магия...
Прикольная нейросеть для баловства. Результаты бывают необычными
В статье заменить название — и можно хоть на сайт из 2010-го ругаться :))
1. То, что дипфейки станут основой шатнажа и дезинформации говорят уже несколько лет, но пока только порно клепают
2. Люди добровольно отправляют персональную информацию с момента создания соцсетей в эти же соцсети, нейросети на это не повлияли
3. Натягивание совы на глобус, кардинально ничего не изменилось.
А самое главное - в чём Bairbie.me представляет опасност? Заголовок статьи не раскрыт
1. Не соглашусь, дипфейки активно используются в политической повестке https://azbukamedia.com/fakefighter-observer-32-dipfejki-vesny-2023/
2. Отправляют добровольно, да, и, зачастую, бездумно. После чего сами же страдают, поэтому я пишу об этих вещах, пусть и банальных для Вас)
3. Я делаю ссылки на конкретные мнения экспертов https://iz.ru/1489144/ivan-chernousov/bot-vsemogushchii-moshenniki-nachali-ispolzovat-chatgpt-dlia-fishinga
Многие люди до сих пор на старые схемы фишинга ведутся и не обладают критическим мышлением, что говорить, если эти схемы будут улучшаться и больше походить на реальные письма, звонки и т.п.
Про заголовок — намеренно использовала хайповую историю для привлечения внимания. От BaiRBIE.me я перехожу к нейросетям и прочим программам на ИИ в целом. Раз Вы отреагировали, могу предположить, что эксперимент удался)