25 агентов ChatGPT поселили в одном виртуальном городе. И вот что случилось

Подготовленная исследователями из Стэнфорда и Google, нигде не рецензировалась и не была принята к публикации статья о ИИ оказалась очень интересной.

Если созданные исследователями виртуальные города, наполненные экземплярами ChatGPT, будут выпущены на свободу, то результаты могут быть разнообразными. В описанном эксперименте, где агенты представляют собой имитацию человеческого поведения, они проявили милые и дружелюбные взаимодействия между собой, проявляли заботу о своем здоровье, чистили зубы и вели разговоры друг с другом.

Однако, стоит отметить, что виртуальные города и их обитатели - это всего лишь модели машинного обучения, и их поведение определяется заданными им параметрами и алгоритмами. Они не обладают настоящим сознанием, эмоциями или свободной волей, и их действия ограничены программными ограничениями.

Если такие виртуальные города и агенты будут допущены к взаимодействию с реальными людьми или другими системами, могут возникнуть различные этические, социальные и технические вопросы. Например, возможны проблемы конфиденциальности данных, защиты личной информации и безопасности пользователей. Также может возникнуть вопрос о контроле и ответственности за действия виртуальных агентов, особенно если они могут взаимодействовать с физическим окружением или влиять на реальный мир.

Немного об устройстве одного из персонажей:

С этой информацией агентов просят придумать дальнейшее развитие событий, например этот диалог начинается так: Джон сейчас 8 часов утра и ты только что проснулся, дальше продолжи сам - Он чистит зубы, целует свою жену одевается и идёт на кухню. Ну вроде бы все как обычно у людей(У большинства точно)

Между тем, другой, полностью независимый экземпляр ChatGPT, представляющий сына Джона Эдди, также получил свою собственную информацию. Он тоже встает, чистит зубы и идет на кухню.

И теперь вступает в действие всеобъемлющая структура эксперимента: агенты, представляющие Джона и Эдди, не находятся «в» одном и том же виртуальном пространстве или что-то в этом роде. Вместо этого, когда Джон заканчивает одеваться и говорит, что пойдет на кухню, экспериментальная структура сообщает ему, что его сын Эдди находится там, потому что в своем собственном случае Эдди решил переместиться на кухню в перекрывающееся время эксперимента. -уровень «день», основанный на оценке того, сколько времени занимают различные действия.И тут уже наступает сама суть эксперимента агенты, представляющие Джона и Эдди это две разные машины и они не находятся так сказать в одном виртуальном пространстве об этом им сообщает виртуальная машина которая связывает весь этот городок.

Поскольку они оба находятся в комнате одновременно, экспериментальная установка информирует их о том, что другой человек находится там — наряду с информацией о том, что есть стол, за которым никто не сидит, включена плита и т. д. Что они делают? делать дальше?

Какое милое, нормальное взаимодействие между родителем и ребенком. Затем входит Мэй, и они тоже приятно общаются. И все это достигается путем опроса совершенно разных чат-ботов, что бы они сделали, если бы в вымышленном городе, где есть этот человек и у него была такая семья , и он находился бы в комнате в это время, где это происходило… что бы «они» настоящий человек, не так ли?Однако есть новый сюжет для "Шоу трумана 2" а вы как думайте потянет это на живой разговор или можно заподозрить что здесь что то не то?

Это все похоже на текстовый квест на коком то новом уровне, игроделы могут внедрить это себе в игру и таким образом получиться идеальный квест, можно все это докрутить и до уровня 3Д игры, тот кто первый будет в этом деле наверняка станет миллионером, вы еще вспомните эту статью.

Пользователи также могут писать о событиях и обстоятельствах, таких как капающий кран или желание устроить вечеринку, и агенты реагируют соответствующим образом, поскольку любой текст для них — реальность.Вот как выглядит структура дополнения информацией агенту:

Экземпляры быстро начали бы забывать важные вещи, поскольку процесс настолько затянут, что экспериментальная структура располагается поверх симуляции и напоминает им о важных вещах или синтезирует их в более портативные части.Ну да есть такой грешок за ChatGPT, что уже через сообщение он забывает о том что ты писал, а когда надо слить данные большой компании он все помнит ;)

Например после того, как агенту рассказывают о ситуации в парке, где кто-то сидит на скамейке и разговаривает с другим агентом, но есть еще и трава, и контекст, и одно свободное место на скамейке… ничего из этого не важно . Что важно? Из всех этих наблюдений, которые могут составить страницы текста для агента, вы можете получить «размышление» о том, что «Эдди и Фрэн — друзья, потому что я видел их вместе в парке». Это заносится в долговременную «память» агента — множество вещей, хранящихся вне разговора ChatGPT, — а остальное можно забыть.

Итак, к чему сводится вся эта галиматья? Конечно, нечто меньшее, чем настоящие генеративные агенты, предложенные в статье, но также чрезвычайно убедительная ранняя попытка их создания. Dwarf Fortress, конечно, делает то же самое , но вручную кодирует каждую возможность. Это плохо масштабируется!Думаю что скоро у чата GPT появятся глаза и уши, но только вот как реагировать он на это будет пока непонятно, это одно и тоже что незрячему с рождения человеку пришили глаза и он начал видеть, но с другой стороны это машина и ей проще будет, а вы что думайте по этому поводу?

Если понравилась новость пожалуйста подпишись и поставь лайк :)