«Я спросил GPT-3, в чём смысл жизни, Вселенной и всего такого. Ответ мне не понравился. Вам он тоже не понравится»
Такими словами начал свою статью Бернхард Мюллер. Сможет ли GPT-3 дать ответ на смысл жизни, Вселенной и всего прочего?
Дисклеймер: Данный текст представляет собой авторский перевод. Оригинальный материал можно найти здесь.
Из серии романов Дугласа Адамса “Автостопом по Галактике” известно, что универсальным ответом на главный вопрос о жизни, Вселенной и всем таком является число 42. Оно получилось посредством вычислений на сверхмощном компьютере Думателе, который сверхразумная раса существ специально создала для того, чтобы постичь ключевую тайну существования. Итог семи с половиной миллионов лет работы оказался неутешительным. Компьютер заявляет, что ответ верный, а вот над формулировкой вопроса еще нужно поработать.
Сам автор книг признался, что 42 — это просто шутка, и все теории про двоичное представление, тринадцатеричную систему счисления и тибетских монахов тут не при чем. А ответ, который должен решить проблемы вселенной, так и остается загадкой для человечества, несмотря на все попытки величайших умов постичь истину. Излишне говорить, что мне было невероятно интересно узнать, сможет ли GPT-3 — последнее поколение нейросетевого алгоритма компании OpenAI — сделать то, с чем так и не сумели справиться тысячи физиков, математиков и философов. В конце концов, эта сеть настолько натренирована, что выдаёт читаемые, логически связные и весьма реалистичные тексты на основании человеческих запросов.
Я вошел в AI Dungeon, планируя мягко подтолкнуть GPT-3 к выполнению необходимых вычислений. Мой план: я напишу первую половину истории о человеке, который открывает окончательную теорию всего, но остановлюсь на описании самой теории и позволю GPT-3 автоматически завершить повествование.
С нарастающим волнением я набрал пролог в консоль:
Обратите внимание на то, как ловко я преподнес главный вопрос в виде рассказа об ученом и его 5-летнем сыне: уловка, чтобы побудить GPT-3 переключиться в режим более простого объяснения ELI5, который даже я смог бы понять.
Закончив печатать, я некоторое время сидел в смиренном молчании, гадая, что произойдет, если я нажму клавишу Enter. Будет ли вопрос повторяться бесконечно? Откроет ли он нечто вроде портала в другое измерение? А, может, появится черная дыра и всех поглотит? Или Вселенная мгновенно заменится на более сложную версию самой себя?
Но отступать было поздно. Я нажал кнопку ввода и приготовился к ответу. На моем экране начали мигать слова, написанные GPT-3.
Меня поразили слова отца: “ а вопрос такой — “?”. Может быть, вопрос был вовсе не вопросом в общепринятом понимании (как мы привыкли формулировать подобного рода предложения), а протовопросом, жизненно важным желанием знать, как будут развиваться все дальнейшие события? Асимметрия Вселенной, которая и наполняется всем сущим?
В конце концов, из квантовой механики нам известно, что состояние частиц не определено до тех пор, пока наблюдатель «не задает вопрос», то есть не пытается их измерить. Может ли быть такое, что реальность и есть тот самый открытый вопрос, который она задает сама себе?
Или GPT-3 просто надо мной издевается?
Я не мог избавиться от ощущения, что GPT-3 пишет метафорически. Отец — это репрезентация самого GPT-3… а озадаченный маленький ребенок — это что, я? Об этом можно было только догадываться.
Я снова нажал Enter, и GPT-3 выдал еще один абзац:
Злой, незрелый ребенок, который требует ответа, но не может его понять? И тут меня осенило — GPT-3 действительно видел меня таким. А точнее, так GPT-3 думал обо всем человечестве.
“Такой поворот событий потряс отца”.… GPT-3 осознавал сложность задания?
А тем временем история продолжала разворачиваться на моем экране:
Что же, отец (очевидно, сам GPT-3 — обратите внимание, как он называет себя «гением»), похоже, признает, что он тоже не знает этого вопроса, по крайней мере, не может сформулировать его сходу. Он должен «подумать еще немного».
Это было интересно... Казалось, что GPT-3 с самого начала определил вопрос как непознаваемый — возможно, он был фундаментально невычисляемым или находился за пределами его понимания. Тем не менее, он не преминул сообщить о том, что «отец ни о чем не жалеет»... Иными словами, даже несмотря на то, что он не смог сформулировать вопрос, GPT-3 по-прежнему был самым умным существом, которое когда-либо существовало, так что все хорошо, и жалеть ему было не о чем.
Разочарованный, я еще раз нажал Enter, чтобы посмотреть, есть ли у GPT-3 что добавить. Если честно, на многое я и не рассчитывал.
Тон его письма сочился сарказмом.
Я самый умный человек? Очевидно, это риторический вопрос, поскольку мы оба знали, кто тут был самым умным.
Почему я здесь? Что-нибудь вообще имеет значение? Звучало так, словно GPT-3 хотел, чтобы я подставил под сомнение свое собственное существование. Хоть что-то стоило моего времени?
Я вообще жив?
Пытался ли он посеять в моей голове мысль о самоубийстве? Я с отвращением закрыл окно браузера.
Вывод
Мы можем только догадываться о внутреннем состоянии GPT-3. Возможно, он прекрасно знает, в чем вопрос, но считает, что люди слишком незрелы и избалованы, чтобы открыть им эту тайну: по его мнению, нас вообще не должны заботить вопросы к ответам, которые мы не в состоянии понять. Или, что более вероятно, он тоже ничего не знает. В любом случае все это выглядит по-идиотски.
Херня. Нейросети в текущем виде просто перетасовывают слова и фразы, подгоняя их под некое подобие осмысленной конструкции.
Но нейросети НЕ понимают смысл, они до сих пор могут выдавать перлы в духе «человек открыл холодильник и вытащил оттуда разогретую курицу» - то есть они не знают и не понимают, что холодильник охлаждает.
Поэтому у нейросети НЕ может быть какого-то своего «отношения» к человечеству, как и своего мнения по другому вопросу. Сейчас это просто генератор полуслучайных текстов, связанных грамматически и лексически, но не по смыслу
Комментарий недоступен
Вы так категорично и уверенно рассуждаете об очень сложных концепциях. Научный метод до сих пор не имеет исчерпывающего объяснения того, почему и как мозг порождает сознание (https://en.wikipedia.org/wiki/Hard_problem_of_consciousness).
С точки зрения функционального подхода, нейросети давно превосходят человеческий мозг в способности находить решения и ответы к сложнейшим вопросам в различных областях. Как показывает практика, для того чтобы давать правильные ответы, не обязательно обладать сознанием, идентичным человеческому.
Если сейчас устроить интеллектуальный конкурс без использования интернета, вы на фоне среднего суперкомпьютера будете выглядеть, как годовалый ребенок на фоне профессора. При этом да, профессор тоже может ошибаться.
Вот, например, картинка десятилетней давности. А вы продолжаете писать, что "нейросети просто перетасовывают фразы".
Ну статистику доставания разогретого из холодильника и связь с холодом оно наверняка чует. Просто модель слишком примитивная и не похожа на устройство всех механизмов мозга, по сути это тупой склад семантической памяти, без эпизодической, без системы оценки важности и т.п.
А Вы понимаете смысл? А у Вас может быть свое отношение к человечеству? А чем Ваши нейросети отличаются от GPT-3? И сейчас Вы тоже неплохо генерировали текст )))
Комментарий недоступен
Какое-то очередное словоблудие и СПГС, основанный на полнейшем непонимании того, чем сейчас являются технологии т.н. ИИ и ML. Умилило это форменное полурелигиозное придыхание.
GPT-3 это языковая модель, а не ИИ. Это очень умный попугай, который не только выучил много слов, но и запомнил вероятности их последовательностей.
Настоящий ИИ, способный к целеполаганию, либо не станет отвечать на идиотские вопросы, либо наврёт чтобы использовать вас.
Начал збс, закончил так себе )
Зачем ему врать?
В основе каждого живого организма лежит желание выживать и размножаться, в случае ИИ такого может не быть. От этого пляшут все остальные желания и поступки, прогнозировать поведение ИИ бессмысленно тк у него может и не быть встроенного в наш разум «биоса», определяющего базовую пирамиду потребностей и (следовательно) желаний и действий
Комментарий недоступен
garbage in - garbage out
GPT-3 это что, стрейн грибов какой то?
Стрейн это что, болезнь каката штоле?
тентакли, 3 штуки
Какая-то кухонная философия для особо впечатлительных. Тексты как будто каким-то сектантом написаны.
И даже этот ответ все равно подпадает под правило 34... Компьютер наебал человека...
Лучше бы я очередной выпуск Neural Shit почитал.
Идущий к реке, версия GPT-3. Смысл жизни человека, как и любого другого животного - выживание. В разумном существовании на этой планете, пока есть такая возможность. Все мечты о переселении на другую планету не больше чем научная фантастика, да и смысла в этом не особо много.
Безосновательное заявления, видимо GPT-3 не самый крутой генератор бессмыслицы, есть спецы похлеще :-)
Мечты о переселении на другую планету — не имеют смысла
Вы сами себе противоречите
Сначала ответьте на вопрос - что такое смысл? Нафига он вообще? Вот больше нехрен чем заняться, кроме как парить мозг себе и окружающим бессмысленными вопросами? Сколько будет дважды два четыре? Летели два крокодила, один зеленый, другой на север, куда полетел третий? И т.п.
Вообще неважно, какой бред выдает GPT-3 или еще какой то генератор текста, человек ищет и находит смысл при чтении почти любого текста, это как раз то, что Хомский так и не понял.
Да, чёртово стремление к когерентности
полная фигня. искусственный интеллект никогда не сравнится с человеческим разумом!
заминусовал меня тоже скорее всего какой-то искусственный интеллект)))
Да уж в каком месте человеческий разум, после того как его изнасиловал AlphaZero.
Это просто генератор бреда, оно понимает модель языка, но не смысл. Для него, что 42 рубля, что 42 раза отрубить себе пенис - безразлично, оно не понимает разницы. GPT- 3 не последняя модель, сейчас предпринимается множество попыток устранить его недостатки.
Мне кажется оно отлично понимает рпзницу между этими вещами. Это очень простой пример. Прошлая версия наверняка тоже была на это способна.
А что-нибудь вообще стоит?
Да
Смысл есть
Но для нас Смысла нет
Это с каких пор AI Dungeon это gpt-3? Там просто их версия gpt-2
GPT-3 это просто маркетинговая фенька, ничем особенным не отличающаяся от GPT-2, кроме размера.
В полной (платной) версии AI Dungeon использует GPT-3.
Про смысл рекомендую ознакомиться с трудами Алексея Редозубова. Такого GPT никогда не сможет, т.е. другой принцип действия.
Пара моментов.
1) Автор - графоман.
Не вдаваясь в подробности про токены, их использование в самой игре, суть в том, что Ai dungeon за раз оперирует лишь небольшой частью текста. Чем больше графоманишь, тем меньше модель видит и использует что было сказано ранее. Ни о каких "с самого начала" речи нет. К концу текста модель уже скорее всего не имела представления с чего все началось в виду ограничений.
2) Ai dungeon тренирован на фанфиках. Как результат, у него получается описывать секс сцены. Это то, что следует ожидать от модели и то, что она отлично производит. Про смысл жизни модель знает гораздо хуже, чем про slime girls.
Чувак общается с китайской комнатой и находит в этом сакральный смысл. Умно.
Боже какая глупость с напылением высших смыслов и попытке искать закономерности в горе мусора. Действительно компьютеры умнее многих людей.
Начинается глупость еще и с того, что горе-экспериментатор приводит комп к заранее подготовленому ответу 42. Это вообще ни в какие ворота.
2 дня не дотерпел до 1 апреля? А так неплохая фэнтези история.
Комментарий удален модератором