Главы техкомпаний, инженеры и исследователи попросили приостановить «масштабные ИИ-эксперименты» — они угрожают обществу Статьи редакции
Среди подписавшихся — сооснователи Apple, Skype и Pinterest, гендиректор SpaceX и Tesla, а также сотрудники Microsoft и Google.
- Более 1100 исследователей, инженеров и предпринимателей подписали открытое письмо ИИ-лабораториям — с просьбой «срочно и как минимум на полгода приостановить обучение ИИ-систем, более производительных, чем GPT-4». Если это невозможно, вмешаться должно правительство — например, ввести мораторий на эксперименты.
- Продукты с искусственным интеллектом, «сопоставимым с человеческим, могут представлять серьёзную угрозу обществу и человечеству», пишут авторы письма. При работе с ними разработчики должны быть крайне внимательными, но «этого не происходит», так как последние несколько месяцев они пытаются обогнать друг друга и выпустить «более мощные модели, действия которых сами не могут до конца понять, предсказать и проконтролировать».
- В письме авторы отмечают, что разработкой продуктов, которые могут заменить людей или породить больше новостной пропаганды, должны заниматься «избираемые» технологические лидеры. Сами системы при этом стоит создавать тогда, когда все уверены, что те принесут пользу, а рисками можно будет управлять. Пока силы следует направить на доработку уже существующих продуктов — чтобы сделать их точнее, безопаснее и прозрачнее.
- Это не значит, что нужно полностью остановить развитие технологии, пишут авторы: надо лишь «выйти из опасной гонки». Они предлагают в течение полугода объединить усилия и разработать единые для рынка правила безопасности, а также способы контроля экспериментов. По их словам, нужно также подключить правительства, чтобы те сформировали ведомства, которые будут сертифицировать продукты, смогут отличать реальный контент от «синтетического» и следить за утечками ИИ-моделей.
- На момент публикации среди подписавшихся числятся директор SpaceX, Tesla и Twitter Илон Маск и сооснователи Apple, Skype, Pinterest, Ripple — то есть Стив Возняк, Яан Таллинн, Эван Шарп и Крис Ларсен. Есть и главы фирм-разработчиков ИИ-продуктов — из Stability AI (Stable Diffusion), Scale AI, ThirdAI, Character.ai, Unanimous AI и других.
- Письмо также поддержали инженеры и исследователи Google и Microsoft и учёные и профессора из многочисленных университетов — Йельского, Оксфордского, Гарвардского, Кембриджского, Стэнфордского, Массачусетского технологического и других.
Добавлено в 16:32.
Профессор Нью-Йоркского университета и исследователь Meta* Ян ЛеКан сообщил в Twitter в ответ на удалённую публикацию, что не подписывал письмо и не согласен с его основным посылом (на момент обновления заметки его имя отсутствует в списке, а автора удалённого твита узнать невозможно — vc.ru). В комментариях к его заявлению пользователи предположили, что подписи могли быть сгенерированы ИИ, а также допустили, что, возможно, его имени там изначально и не было, а его внимание привлекли только ради «дополнительных кликов».
*Meta признана в России экстремистской организацией и запрещена.
28K
показов
32K
открытий
8
репостов
Нас ждёт чудный новый мир. Ну или новый мировой порядок 😘
Ничего глобально не изменится. Вся эта модель с ии это анализ больших массивов готовых данных. «Решает» она те задачи, которые уже многократно были решены схожими методами. Как только в модель обучения попадут «неправильные» данные - они будут статистически исключены. Вот только все новые разработки и исследования и есть такие «неправильные данные». Изменит ли мир и его порядок массовая безработица среди условных барист и секретарей - тот еще вопрос:)
Проведу аналогию с ядерной реакцией. В те времена технология ядерного распада открывала новые горизонты. Кто-то строил АЭС, кто-то клепал атомную бомбу. Тут аналогичная ситуация, только в информационном поле. В котором скорость изменений зашкаливает настолько, что всё чаще сбой даёт психика всё большего числа индивидуумов. Уверен что даже такой слабый ИИ может так промыть мозги 90% населения буквально за пару месяцев, что завтра вы выглянув в окно не поверите своим глазам. А ведь это ещё можно делать и скрытно, направляя(манипулируя) в нужное русло мнение большинства. Что получиться на выходе одному богу известно. )))
Мне не нужна аналогия, благо минимально разбираюсь в вопросе. Просто если в шестидесятых годах, например, для проектирования wtc были задействованы несметные количества ведущих инженеров (и это, скорее всего, человеко-векА проектирования), то сегодня задачу решает пара не самых последних студентов с профильным образование за пару месяцев. Но с инженерным софтом. Заметило большинство это изменение реальности? А про большое число индивидумов - нам интернетик отлично показал, что основная масса населения потребляет контент в виде жоп, человеков падающих подскользнувшись на кожуре банана и демо недоступных массам цацк. Да и кино потребляет только мультфильмовое и еще просит:) Думаете иной промыв головы сильно поменяет что-то?:)
аналогии, как аргумент удел недалеких глупцов, самое жалкое что можно сделать
Ну почему же, не соглашусь, огромная часть окружающих процессов крайне схожа:)
это не делает их подменяемыми друг другом
Ваш комментарий меня обнадёживает )))
Считать элементарно не может без ошибок
Ну вот вы и научили модель глупостям:)
Самому интересно к чему их приспособят.
Это сарказм, если что.