Почему нейросети нас пугают?

Привет, VC! Сегодня передаю персональный привет Елене Зайцевой из комментариев под прошлой статьей. Спасибо за вдохновение, Елена!

Я часто сталкиваюсь с фаталистическими комментариями про неизбежность конца человеческого из-за нейросетей. Почему мы их боимся? В статье поговорим про фобии, игру «Detroit: Become Human», посчитаем возраст первого ИИ (спойлер: ровесник вашей бабушки) и найдем способ справиться со страхом.

ИИ можно приложить к любой сфере, и как результат, человек получает высокоинтеллектуальный инструмент без проблемы в виде человеческого фактора. В медицине ИИ уже помогает в диагностике заболеваний, анализируя медицинские изображения (рентген, МРТ) и выявляя аномалии, которые могут быть пропущены человеческим глазом. А парфюмерная компания «Symrise» использует ИИ для разработки новых ароматов.

Но, несмотря на очевидные преимущества, многие испытывают страх или недоверие. Почему?

Наш мозг устроен так, что новое и непонятное часто вызывает тревогу. Хочется подойти к страшному медленно, на носочках, обходя острые углы. Это называется неофобией, и она же играет важную роль в нашем отношении к нейросетям. Но она (как эмоции в «Головоломке») у вас в голове не одна.

Вторая — технофобия, страх перед новыми технологиями. Также в 19 веке люди боялись поездов, считая, что на высоких скоростях у пассажиров будет «улетать душа». Сегодня это смешно, но нейросети вызывают похожую реакцию.

Идеофобия и эпистемофобия усугубляют ситуацию, заставляя нас избегать новых концепций и знаний. А эргазиофобия – страх перед изменениями в работе – объясняет, почему многие опасаются потерять работу из-за ИИ.

Вместе с этими музами страха внутри нас еще живет антропоморфизм. Наша способность очеловечивать неживое, например, давая имена колонкам. Приписывание эмоций, мотивации или намерений технологиям тоже отходит к этому чувству. Поэтому может формироваться не только нереалистичное ожидание, но и привязанность. Антропоморфизм мы придумали, чтобы мир вокруг нас был понятен и более привлекателен. О, эти окна у дома, как глаза!

Первое, что приходит мне на ум при мыслях об ИИ (после работы) — это фильм «Я, робот» Алекса Пройаса с Уиллом Смитом. Как у меня, так и у вас образ искусственного интеллекта до первого столкновения в реальности сложился благодаря литературе, кинематографу или видеоиграм. Они на протяжении десятилетий рисовали нам картины мира, где ИИ выходит из-под контроля.

Вспомним классику жанра - «Я, робот» Айзека Азимова или «2001: Космическая одиссея» Артура Кларка. Произведения, хоть и были написаны задолго до появления современных нейросетей, заложили основу для нашего понимания потенциальных угроз ИИ. Фильмы вроде «Терминатора» еще больше усилили страхи, представив сценарии, где искусственный интеллект становится экзистенциальной угрозой для человечества.

А почти вровень с трендом на нейросети появляются сериал «Мир дикого запада» и видеоигра «Detroit: Become Human». Наш мозг постоянно проигрывает сценарий, что новая технология выйдет из под контроля, а потом решит отомстить или поработить нас.

Теперь, если отложить панику и вспомнить, что такое магическое мышление, то можно приравнять эти произведения не к гениальному пророчеству и предсказанию падения цивилизации, а к мифам. Как когда-то люди придумали богов пантеона, чтобы объяснить природные явления, так и мы придумываем безутешные сценарии, когда не знаем, как работает технология.

Реальность нейросетей гораздо менее зрелищна, но от этого не менее впечатляюща. Часто рядом с главными терминами этой статьи можно увидеть приписки: новая, неизученная технология. Но это ошибка.

Термин "искусственный интеллект" (ИИ) был впервые введен в 1956 году на конференции в Дартмутском колледже. А исследования в области ИИ начались еще раньше. Одним из первых примеров можно считать «Электрические цепи, имитирующие мозг», работу Уоррена Маккаллока и Уолтера Питтса, опубликованную в 1943 году. Они предложили модель искусственных нейронов, которые могли выполнять простые логические операции.

Что касается первой нейросети, то она была создана в 1958 году Фрэнком Розенблаттом и называлась «Перцептрон». И хотя он имел ограничения и не мог решать многие задачи, он заложил основу для дальнейшего развития этой темы.

В 1960-х годах были разработаны более сложные нейронные сети, такие как «Адалин» (адаптивный линейный элемент) Бернарда Видроу и «Маделин» (многослойный адаптивный линейный элемент).

Но прогресс в области нейросетей замедлился в 1970-х годах из-за ограничений вычислительной мощности и алгоритмов обучения.

Через 10 лет начался период «возрождения нейронных сетей». А в 2010-е года — эра «глубокого обучения».

Так что эта технология будет постарше наших бабушек.

Современные нейросети — это не самосознающие существа, стремящиеся к мировому господству, а сложные математические модели, обученные выполнять конкретные задачи. Они не обладают эмоциями, желаниями или амбициями. Их «интеллект» узко специализирован и ограничен теми данными, на которых они были обучены.

Даже термин «математические» не говорит о том, что они смогут правильно посчитать количество ног у лошади. (GPT или Claude 3 ответят на этот вопрос правильно, просто нейросеть Яндекса не самый умный собрат).

Влияние поп-культуры на наше восприятие ИИ уже произошло. Оно создает когнитивное искажение, заставляющее нас воспринимать нейросети через призму драматических сценариев, а не реальных фактов. Это приводит к тому, что многие люди боятся нейросети, даже не понимая, как они работают. Одна бабка сказала, что мы все умрем :(

Преодоление этого страха требует образования и демистификации. Из-за тренда многие компании и бренды наконец-то создают реалистичные представления ИИ в медиа. Именно про огромные возможности, которые открывают нейросети.

Уверен, что у многих в голове это только ChatGPT и умные колонки. Давайте расширим кругозор.

Только в последние три года:

Все это не просто генерация текста для социальной сети блогера. Это спасение многих жизней в будущем.

Конечно, не все страхи беспочвенны. Например, влияние нейросетей на рынок труда — реальная проблема. По прогнозам McKinsey Global Institute, к 2030 году до 800 миллионов рабочих мест могут быть автоматизированы.

Но история показывает, что технологии чаще создают новые профессии, чем уничтожают старые.

Например, с появлением компьютеров исчезла профессия машинистки, но появились программисты, веб-дизайнеры и специалисты по кибербезопасности. Уже сейчас есть промпт-инженеры, нейроисследователи, архитекторы и этики ИИ.

Этические вопросы и проблемы контроля тоже вызывают обоснованные опасения. Кто несет ответственность за решения, принятые ИИ? Как обеспечить неприкосновенность личных данных?

Почти как Ghostbusters :)

Безопасность данных – наш приоритет. Мы используем методы шифрования и строгие протоколы доступа, чтобы защитить информацию пользователей. Мы не знаем, что наши пользователи пишут в чаты, и никогда не узнаем. Любая информация для нас шифруется, единственное, что мы видим — это количество токенов, которые тратит человек.

Именно поэтому мы работаем с официальными поставщиками моделей по API с условием, что данные из чатов наших пользователей не возвращаются для дообучения LLM.

А чтобы помочь преодолеть фобии, мы участвуем в обучениях и рассказываем о принципах работы нейросетей в «Нейроцехе» от Паши Молянова. Понимание технологии – ключ к преодолению страха перед ней. Поэтому я буквально с демонстрацией экрана решал задачи, на которые обычно тратят ресурсы маркетологов-джунов, а потом еще и подробно показывал, как сам использую нейросети для работы с французским языком.

Давайте смотреть в будущее с оптимизмом и готовностью учиться новому. Ведь именно способность адаптироваться и использовать новые инструменты всегда была ключом к прогрессу.

Глаза чешутся почитать ваши мысли на эту тему!