Мой малыш — стохастический попугай?

The New Yorker опубликовали красивый и занимательный лонгрид на тему искусственного интеллекта. Статья называется «Is My Toddler a Stochastic Parrot?». Она про сходства и различия между обучением маленьких детей и обучением нейросетей.

Наверняка таких статей много. Но эта меня как-то тронула.

• Потому что она про страх, что нейросети заменят человека
• Потому что во главе этой истории лежит любовь автора к своему малышу

Вот так бывает: две простых мысли попали мне в самое сердечко. Я перевела этот материал. И постаралась максимально сохранить те трогательные гифки, которые в оригинале здорово иллюстрируют нить всей этой истории.
Ссылку на источник можно найти в самом конце.

Я познакомилась с ChatGPT в декабре 2022 года. Я тогда как раз уложила ребенка спать и думала, чем бы скоротать время. Поэтому я кликнула по ссылке, которую один мой приятель скинул в групповой чат.

Прошло несколько часов, прежде чем я оторвала взгляд от экрана.

У меня кружилась голова.

Как и большинство людей в мире, я была уверена: способность создавать связный текст – исключительно человеческая прерогатива. Так я думала. До этого момента.

Я мгновенно увлеклась ChatGPT. Несколько месяцев я возилась с ним каждую свободную минуту. Мой муж начал жаловаться и жестко шутить, что с таким же успехом я могла бы развестись и выйти за ChatGPT.

Примерно в это же время мой сын начал учиться говорить. Сначала он мог только лепетать.

БА!

дехдехдехдех

и вот это все.

Говорил ли он «мамама» намеренно, обращаясь ко мне? Или просто повторял слоги, которые у него получились?

Но понимал он явно куда больше, чем мог сказать. Если я просила указать его, например, на пылесос – он с этим легко справлялся. Мы никогда не учили его этому целенаправленно.

Как же он узнал все эти слова?

Мир наперегонки разрабатывает все более сложные языковые модели. В то время как у меня дома разворачивается своя собственная, только маленькая. Забавно наблюдать сходство между этими моментами. Хотя, надо признать, это несколько нервирует.

Существует страх, что компьютер рано или поздно вытеснит человеческое общение. Этот страх возникает из убеждения, что люди и машины – это одно и то же.

Сторонники ИИ, например, часто предполагают, что он учится так же, как художник-человек, который черпает вдохновение из всего, что его окружает каждый день. Разве мы, в конечном счете, не представляем из себя нечто вроде нейронной сети, сложной электрохимической машины?

Именно нейроны человеческого мозга, их работа и взаимосвязи изначально стали источником вдохновения для создания генеративного ИИ. Самые первые нейронные сети научились воспроизводить правильные и неправильные глаголы в прошедшем времени. А возникающие в процессе обучния ошибки были очень похожи на те, что наблюдаются у детей, которые изучают эту тему.

Я часто задаюсь вопросом, а что происходит в голове у моего малыша, когда он учится и пытается говорить?

Ему нравится передразнивать меня, когда я говорю ему новые слова. Иногда ему настолько нравится какой-то звук, что он повторяет его постоянно. Он говорит его всем подряд, снова и снова, независимо оттого, насколько это уместно.

Термин «стохастические попугаи» ввела Эмили М. Бендер. Он используется в машинном обучении и ИИ для описания моделей, которые могут точно повторять статистические закономерности в обучающих данных, но не могут обобщать эти знания на новые ситуации.

Это означает, что такие модели могут «воспроизводить» обучающие данные, но не могут использовать свои знания для решения новых задач.

Феномен Стохастических попугаев возникает, когда компьютерная программа, называемая языковой моделью, учится говорить как человек, но на самом деле не понимает, что говорит. Это похоже на то, когда вы копируете чьи-то слова, толком не понимая, что они означают.

Ответы ChatGPT на мои запросы всегда казались мне подходящими по контексту и смыслу. Они не противоречили логике. Выглядело так, будто бы он действительно понимал абсолютно любой запрос, с которым к нему обращались пользователи.

Формат “запрос-мгновенный ответ” в одном окне неизбежно создает ощущение, что ChatGPT действительно существует, как человек. В такой ситуации трудно не представить себе разумное существо по другую сторону экрана.

Люди – высокосоциальный вид. Мы склонны к антропоморфизации: то есть приписывать объектам или явлениям человеческие свойства и качества. Поэтому мы изначально относимся к искусственному интеллекту довольно предвзято. Мой малыш знает и уверен: плюшевый кролик может ожить и танцевать. Он может чувствовать голод, грусть, усталость.

Вопрос в том, относится ли машинный интеллект к чему-то вроде человеческого рода или это шутка, которую играет с нами наш собственный разум?

Мышление и работа человека и искусственного интеллекта могут быть очень похожи, даже неразличимы, если смотреть на них со стороны. Сэм Альтман, исполнительный директор OpenAL, в своем Твиттере вскоре после выхода ChatGPT написал:

Однако это сходство лишь поверхностно.

Человек и ИИ – это не одно и то же.

Нейронная сеть – лишь хорошая метафора, но далеко не наглядное представление о том, как работает человеческий мозг. Большая языковая модель не учится создавать и связывать слова так, как это делает человеческий ребенок.

Моему малышу, например, предстоит пройти очень долгий путь, прежде чем он сможет говорить, как взрослый. Сейчас он все еще произносит сдвоенные слоги: к примеру, «вава” – это «вода”, а »баба” – »банан”.

Машина же поглощает огромное количество данных и моделирует все способы сочетания слов в этой сфере. ИИ легко генерирует эссе для школы на 4+ про Моби Дика, используя для этого математику и человеческие знания.

Результат поражает нас чем-то, что выглядит почти как интеллект среднестатистического человека. Между тем, обычному тоддлеру не под силу связать даже двух слов, не говоря уж о том, чтобы написать стихотворение или эссе.

Я слежу за новостями в сфере ИИ, потому что мой малыш, вероятно, вырастет в этой среде и будет частью этого процесса. Мне хочется иметь хотя бы какое-то представление о том, как это будет. Я хочу быть готовой войти в этот новый мир вместе с ним. Но как?!

Через несколько месяцев после того, как OpenAL выпустила GPT-4, возникло ощущение, что мы мчимся навстречу неизвестному пугающему будущему.

День за днем появляются обновления и публикуются отчеты, от которых буквально захыватывает дух. ИИ становится все совершенней и мощней.

Предполагают, что GPT-4 уверенно смог сдать экзамен на юриста, медицинский экзамен и т. д. Даже несколько экзаменов на сомелье.

Говорят, что GPT-4 превзошел по генерации идей студентку магистратуры…и даже, что он мог бы входить в 1% самых креативных мыслителей-людей.

За это же время мой малыш едва ли выучил несколько слов.

ВАВА. МАМА. гавгав.

БАБА. КОТ.

В конце концов, может ли генеративный ИИ быть: юристом, учителем, художником, сомелье, автором текстов, новым Сирано де Бержерак, фотографом, гуру, другом или даже любовником?

От всех этих возможных вопросов земля уходит из-под ног…

Я даже подумала о том, а есть ли вообще в нашем существовании какой-то смысл? Ли Седоль проиграл матч AlphaGo и перестал играть в го.

Один мой ученик признался, что он превратился в… ресурс для своего проекта. Потому что искусственный интеллект рисует лучше, чем он сам.

Некоторые СМИ увольняют своих текстовиков, заменяя их тем, что делает ChatGPT. Тексты, которые создает ИИ, в ходе слепых тестов иногда оцениваются, как более высокие по качеству, чем те, которые пишут люди. Изображения, которые генерирует нейросеть, выигрывают конкурсы, созданные для определения лучших представителей своего жанра. Amazon изобилует текстами, которые создал искусственный интеллект: заголовки, карточки товаров. Контент, который создал ИИ, УЖЕ наводнил Интернет. При чем этот контент создается гораздо быстрей, чем если бы его делали люди. И стоит это куда дешевле. Достаточно дешево, чтобы иногда проигнорировать качество конечного результата.

Зачем тратить недели на разработку идеи, прорисовку изображения, подбор цветов, обсуждение нюансов … если машинный интеллект справляется с этим эффективней?

Какой смысл в том, что мой малыш учится творчеству и самовыражению?

Какой смысл в том, что мои ученики учатся рисовать?

К чему вообще развиваться в таких условиях?

Ведь то, что делает машина, в конечном счете выглядит не менее убедительно?

Я стала ловить себя на мысли, что все изображения, фотографии, статьи, которые попадаются мне в сети, вызывают подозрение. Даже то, в чем я была как будто бы уверена – это сделал человек – стало казаться мне нереальным и неестественным.

Получился обратный эффект: я начала воспринимать имитацию, как что-то реальное. А затем все реальное стало казаться мне имитацией.

То творчество, которое появляется у людей, создается на базе внутреннего мира, эмоций, воспоминания и опыта – по своей сути то же самое, что машина генерирует буквально за копейки.

Но… что значат для нас другие люди?

Маленькие дети – самые беспомощные существа. Они меньше других способны к разумному общению, им незнакомо понятие “эффективности”. Они бесполезны, не креативны, и вряд ли сдадут экзамен на юриста. Они намного ниже того среднего человеческого стандарта, которого мы ждем от машин.

Они куда меньше, чем машина.

Но все же любому из нас понятно:

ОНИ КУДА больше.

ЧЕМ ЛЮБАЯ.

другая.

машина.

Малыш живет свою жизнь и учит язык, чтобы смочь описать ее. ИИ изучает и развивает язык, но не имеет никакой жизни.

Называть своего теплого, любимого, восхитительного малыша стохастическим попугаем?! Ну вот еще. Он ведь только-только научился слюняво целовать своих близких с отрытым ртом.

Нет, никакой он не стохастический попугай. Как и никто из вас.

Что делает нас реальными друг для друга? Разговоры о мире вокруг нас. Мире, который мы видим своими собственными глазами. О деревьях, траве, прогулке. О том, какие запахи витают в воздухе. Разговоры о себе и друг о друге. О том, что мы чувствуем, думаем, о чем мечтаем.

О самом обычном, любимом коте.

У этих разговоров между двумя людьми нет такого показателя, как “вероятность”. Они продиктованы обычным желанием поделиться с кем-то кусочком своей жизни. И простой мимикрии тут явно недостаточно.

Я реальна для вас?

Я пытаюсь рассказать о том, что я чувствую.

Ох, все, что связано с этим любимым мальчиком, сложно выразить словами.

Когда он кладет свою мягкую розовую щеку мне на плечо.

Когда я убираю прядки его волос со вспотевшего лба…

Вы тоже человек. Вы понимаете и знаете, что такое “любовь”. Вы очень хорошо понимаете, что даже эти самые бесполезные, крошечные люди на нашей планете более реальны, чем любой вероятностный алгоритм.

Несмотря на всю эту мощь машины, на ее интеллект, на все ее эссе и математику… просто посмотрите. Вот мой ребенок, по его венам течет кровь. И он почти не говорит.

О какой замене человека машиной тут вообще может идти речь?

Источник

Меня зовут Саша, моему сыну сейчас 1,5 года. Я завела свой канал в Telegram, чтобы не потерять себя в мире материнства. Я не прекращаю работать, рисую, читаю, смотрю, впитываю мир и делюсь им. В этом скромном цифровом пространстве я ставлю для себя совсем нескромную цель: вдохновлять, заставить думать и действовать.

Загляните в мою жизнь. Возможно, вам захочется что-то унести с собой.