Главы техкомпаний, инженеры и исследователи попросили приостановить «масштабные ИИ-эксперименты» — они угрожают обществу Статьи редакции

Среди подписавшихся — сооснователи Apple, Skype и Pinterest, гендиректор SpaceX и Tesla, а также сотрудники Microsoft и Google.

Сооснователь Apple Стив Возняк. Источник: Firstpost
  • Более 1100 исследователей, инженеров и предпринимателей подписали открытое письмо ИИ-лабораториям — с просьбой «срочно и как минимум на полгода приостановить обучение ИИ-систем, более производительных, чем GPT-4». Если это невозможно, вмешаться должно правительство — например, ввести мораторий на эксперименты.
  • Продукты с искусственным интеллектом, «сопоставимым с человеческим, могут представлять серьёзную угрозу обществу и человечеству», пишут авторы письма. При работе с ними разработчики должны быть крайне внимательными, но «этого не происходит», так как последние несколько месяцев они пытаются обогнать друг друга и выпустить «более мощные модели, действия которых сами не могут до конца понять, предсказать и проконтролировать».
  • В письме авторы отмечают, что разработкой продуктов, которые могут заменить людей или породить больше новостной пропаганды, должны заниматься «избираемые» технологические лидеры. Сами системы при этом стоит создавать тогда, когда все уверены, что те принесут пользу, а рисками можно будет управлять. Пока силы следует направить на доработку уже существующих продуктов — чтобы сделать их точнее, безопаснее и прозрачнее.
  • Это не значит, что нужно полностью остановить развитие технологии, пишут авторы: надо лишь «выйти из опасной гонки». Они предлагают в течение полугода объединить усилия и разработать единые для рынка правила безопасности, а также способы контроля экспериментов. По их словам, нужно также подключить правительства, чтобы те сформировали ведомства, которые будут сертифицировать продукты, смогут отличать реальный контент от «синтетического» и следить за утечками ИИ-моделей.
  • На момент публикации среди подписавшихся числятся директор SpaceX, Tesla и Twitter Илон Маск и сооснователи Apple, Skype, Pinterest, Ripple — то есть Стив Возняк, Яан Таллинн, Эван Шарп и Крис Ларсен. Есть и главы фирм-разработчиков ИИ-продуктов — из Stability AI (Stable Diffusion), Scale AI, ThirdAI, Character.ai, Unanimous AI и других.
  • Письмо также поддержали инженеры и исследователи Google и Microsoft и учёные и профессора из многочисленных университетов — Йельского, Оксфордского, Гарвардского, Кембриджского, Стэнфордского, Массачусетского технологического и других.
Добавлено в 16:32. Профессор Нью-Йоркского университета и исследователь Meta* Ян ЛеКан сообщил в Twitter в ответ на удалённую публикацию, что не подписывал письмо и не согласен с его основным посылом (на момент обновления заметки его имя отсутствует в списке, а автора удалённого твита узнать невозможно — vc.ru). В комментариях к его заявлению пользователи предположили, что подписи могли быть сгенерированы ИИ, а также допустили, что, возможно, его имени там изначально и не было, а его внимание привлекли только ради «дополнительных кликов».

*Meta признана в России экстремистской организацией и запрещена.

0
612 комментариев
Написать комментарий...
boomzilla

Ох, не умеют они письма составлять. Вот так надо: Безопасность детей под угрозой, их срочно надо защитить от вреда AI.

Ответить
Развернуть ветку
Bruce Robertson

Хорошо. Только нужно детей заменить на «угнетаемые меньшинства».

Ответить
Развернуть ветку
boomzilla

Эта мода недолговечна, а защита детей хорошо зарекомендовавший себя инструмент

Ответить
Развернуть ветку
Миру Мир (запрещено в РФ)

Особенно, если вспомнить с какой целью РКН создавался и чем он занимается в итоге

Ответить
Развернуть ветку
C. Steel

Зачем заменять, когда можно объединить?

Ответить
Развернуть ветку
Андрей Иванов

Как правильно заметили, это временная повестка, а "защита детей" - это буквально бессмертная мантра.

Ответить
Развернуть ветку
Сергей Румянцев

осталось приплести экологию

Ответить
Развернуть ветку

Комментарий удален модератором

Развернуть ветку
Bo.G

и животноводство

Ответить
Развернуть ветку
Hallederiz

а вы читали письмо-то?

Ответить
Развернуть ветку
boomzilla

Хочу услышать от вас контраргумент. Вы считаете что люди подписавшие письмо беспокоятся о безопасности человечества, а не об упущенной прибыли?

Ответить
Развернуть ветку
Hallederiz

вы сами скажите: вы читали само письмо или составили мнение по пересказу?

Ответить
Развернуть ветку
Мобилизованный Фурри

Я пролистал, там кринжатина лютейшая, даже есть про что-то наподобие восстания машин

Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? Should we risk loss of control of our civilization? Such decisions must not be delegated to unelected tech leaders. Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable.
Ответить
Развернуть ветку
609 комментариев
Раскрывать всегда