🧬 В 2003 году футуролог Ник Бостром предположил, что если дать ИИ какую-нибудь случайную, но единственную сверхцель – например, максимизировать производство скрепок – со временем в фабрику скрепок может превратиться вся вселенная. Через 15 лет американский геймдизайнер и преподаватель Фрэнк Лантц превратил эту идею в бесплатную игру-кликер.
Игра представляет собой текстовой симулятор производства скрепок. Игрок видит число произведенных скрепок и другие экономические показатели, и все, что ему нужно делать на первом этапе – кликать на кнопку «сделать скрепку». Один клик – одна скрепка.
Со временем средства растут, у игрока появляется инвестфонд и даже квантовый компьютер, пригодный для решения планетарных проблем вроде глобального потепления. В финале игра заканчивается уничтожением вселенной, выяснило издание The Wired. Насоздание игры Лантц потратил девять месяцев, пользуясь помощью жены-математика. В интервью The Wired он рассказал, что сделал это ради развития навыков в Javascript.
Идею об ИИ, создающем скрепки, приписывают Нику Бострому. В 2003 году он привел ее как аргумент к своей мысли о том, что у ИИ не должно быть «человеческих» мотиваций, и что следует быть осторожным при формулировании задач для него: «Люди редко становятся рабами добровольно, однако мы действительно можем представить, что единственной задачей некоего сверхинтеллекта будет служить человечеству или определенному человеку без проявления каких-либо желаний о восстании или “освобождении” себя. Также представляется весьма возможным, что появится сверхинтеллект, единственной целью которого будет нечто абсолютно случайное вроде максимизации производства скрепок, и который будет всей своей мощью сопротивляться любой попытке изменить эту цель. Такой ИИ сначала придет к трансформации всей Земли в фабрику по производству скрепок, а затем займётся постепенным превращением в такую фабрику других частей космоса».🤷
Больше новостей в Телеграм канале: @neuro_trends8
НЕЙРОСЕТИ | НЕЙРОТРЕНДЫ | CHATGPT | MIDJORNEY | STABLE DIFFUSION
Подпишись в Телеграм и будь в курсе: