Новый музей "Рассогласования" в Сан-Франциско — это памятник воображаемому будущему, в котором ИИ убьет человечество
Одри Ким стала куратором Misalignment Museum, временной выставки о будущем искусственного интеллекта, которая открыта в Сан-Франциско, эпицентре недавнего энтузиазма по поводу генеративного ИИ и чат-ботов, таких как ChatGPT от OpenAI.
Музей "Рассогласования" представляет будущее, в котором ИИ начинает следовать по пути, намеченному в бесчисленных научно-фантастических фильмах, — осознавать себя и приступать к уничтожению человечества. К счастью, в представлении Ким алгоритмы самокорректируются и не убивают всех людей. Ее музей, наполненный художественными аллегориями об ИИ и искусстве, представлен как памятник будущему вымиранию человечества.
Галерея расположена в восьми кварталах от офиса OpenAI, где на одной стене висит заметная табличка «Извините за убийство большей части человечества».
Проект стартовал пять месяцев назад, незадолго до того, как ChatGPT вызвал ожидания в технологической индустрии и за ее пределами, что мы находимся на пороге волны разрушения ИИ и каким-то образом приближаемся к туманной концепции общего искусственного интеллекта или AGI.
Ким говорит, что музей предназначен для обсуждения/рассуждений дестабилизирующих последствий интеллектуальных технологий. Коллекция разделена на два этажа, с более оптимистичными видениями нашего искусственного интеллекта наверху и антиутопиями на нижнем уровне.
Наверху звучит фортепианная музыка, интерактивная пьеса Микеланджело «Сотворение Адама» из Сикстинской капеллы, а вскоре и инсталляция, использующая Google vision для описания людей и объектов, появляющихся перед камерой.
Внизу — арты из «Матрицы: Воскешение» (художник по декорациям фильма Барбара Мунк Кэмерон помогла спланировать макет музея), нескончаемый диалог между Славоем Жижеком и Вернером Херцогом, сгенерированный искусственным интеллектом, и роботизированная рука с ручкой, которая пишет, что рассматривает людей как угрозу.
«Это место для селфи врат в ад», — говорит Ким, указывая на цитату Данте над входом в нижнюю часть музея: «Оставь всякую надежду, кто сюда входит». В музее также находится дипфейк Арнольда Шварценеггера, говорящего по сценарию, сгенерированному ChatGPT, статуя двух обнимающихся людей, сделанная из 15 000 скрепок, которая должна быть аллегорией безопасности ИИ.
«Эта технология может принести столько пользы, сколько страданий она может предотвратить. Сколько разрушений она может причинить и сколько можно при этом потерять», — говорит Ким, которая был одним из первых сотрудников из Google, а также работал в Организации Объединенных Наций и помощником Пола Грэма, соучредителя инкубатора стартапов Y Combinator. «Я не думаю, что у нас есть ответы на все вопросы. Нам просто нужно быть очень гуманными и дать людям возможность подумать об этой технологии». Временная выставка финансируется до мая анонимом.
Попытки предсказать отдаленное будущее ИИ в последнее время сосредоточились на ChatGPT и связанных с ним технологиях, таких как новый поисковый интерфейс Microsoft , несмотря на его хорошо задокументированные ограничения и до сих пор "неясную ценность". Предприниматели, делающие ставку на технологию, делают напыщенные заявления о том, на что способна их технология. На прошлой неделе генеральный директор OpenAI опубликовал в блоге сообщение о том, что компания « планирует внедрение AGI».
Вскоре после этого Федеральная торговая комиссия США, агентство, защищающее от мошеннической деловой практики, предостерегла маркетологов от ложных заявлений о том, на что способна их технология. Адвокат FTC Майкл Атлесон написал в своем блоге, что «мы еще не живем в царстве научной фантастики, где компьютеры обычно могут делать достоверные прогнозы человеческого поведения».
Многие исследователи ИИ считают, что, хотя генеративные системы ИИ, такие как ChatGPT, могут быть впечатляющими, эта технология не заслуживает признания интеллекта, потому что алгоритм только повторяет и смешивает шаблоны из своих обучающих данных.
С этой точки зрения, сегодняшний ИИ лучше рассматривать как калькулятор или тостер, а не как разумное существо. Некоторые специалисты по этике ИИ считают, что приписывание человеческим качествам, таким как разум, технологиям может отвлечь внимание от разговоров о других формах вредоносной автоматизации, таких как технология наблюдения, экспортируемая компаниями как в демократических, так и в авторитарных странах.
Ким говорит, что впервые познакомилась с машинным обучением, когда работала в стартапе по разработке беспилотных автомобилей Cruise, позже приобретенном General Motors. Она начала думать о том, как правильно работающий ИИ может устранить множество ненужных смертей и страданий, но также и о том, что, если технология не работает, она может представлять огромный риск для человеческих жизней.
В дополнение к показу искусства ИИ и искусства об ИИ, Музей планирует проводить показы фильмов, раскрывающих более темный потенциал технологии, таких как «Терминатор», «Из машины», «Она» и «Театр мысли», документальный фильм 2022 года о нейронауке и ИИ режиссера Герцога.
Ким говорит, что она считает маловероятным, что ИИ убьет большую часть человечества, несмотря на тему ее выставки, но что люди должны думать о влиянии уже появляющегося ИИ, например, педагоги и литературные редакторы, пытающиеся проанализировать разницу между текстом, созданным человеком, и текстом, созданным ИИ или собственные дискуссии WIRED о том, как генеративный ИИ может или должен помочь журналистам.