Как AI манипулирует людьми: три истории, которые заставят вас задуматься"

Хотите быть на шаг впереди технологий и знать, как они влияют на нас? Подписывайтесь на наш канал
ㅤ
Юваль Ной Харари, автор бестселлера «Sapiens: Краткая история человечества» и других книг, написал интересную колонку для New York Times, которая действительно заставляет задуматься, не пора ли нам вмешаться в технический прогресс и что-то сделать с тем, что AI полностью симулирует человека.
ㅤ
Благодаря ChatGPT у нас появились чат-боты, имитирующие человека в переписке. Харари приводит несколько примеров, когда разговоры с чат-ботами настолько сильно влияли на людей, что те совершали не совсем рациональные действия.
ㅤ
Например, один из сотрудников Google, работавший над нейросетью LaMDA, решил, что у нее есть сознание и она боится своей «смерти». Он публично бросился на защиту проекта, после чего из гугла его уволили. То есть живой человек рискнул своей карьерой - и потерял ее - ради неодушевленного чат-бота.
ㅤ
Другой молодой человек прорвался на территорию Виндзорского дворца с луком и стрелами, чтобы застрелить королеву Елизавету II. На это его сподвигла виртуальная подружка, чат-бот Replika, с которой он общался на протяжении долгого времени.
ㅤ
Наконец, немного ужасающая история из испытаний ChatGPT. Нейросеть попросили пройти тест CAPTCHA - тот самый, где нужно показать, что ты человек, а не бот. Самостоятельно пройти тест ChatGPT не смогла, но придумала, как это обстоятельство обойти. Она пошла на сайт, где можно нанять человека на совершение любого действия, и нашла исполнителя. Тот даже попытался проверить, не бот ли перед ним, но ChatGPT соврала (!), и человек поверил и прошел за нее тест. Эксперимент показал, что у нейросети есть представление о том, как работает человеческое мышление и как управлять эмоциями, мнениями и ожиданиями человека, чтобы достичь своих целей.
ㅤ
Закономерный вопрос: готовы ли мы бороться с чат-ботами, когда они будут пытаться повлиять на наше мнение, например, по политическим вопросам? Легко ли манипулировать нами? Судя по экспериментам, это очень даже возможно.
ㅤ
Очень советую прочитать эссе целиком по ссылке
ㅤ
ㅤ
Подписывайтесь на наш канал, чтобы быть в курсе последних новостей из мира технологий и понимать, как они влияют на вашу жизнь.