Главы техкомпаний, инженеры и исследователи попросили приостановить «масштабные ИИ-эксперименты» — они угрожают обществу Статьи редакции
Среди подписавшихся — сооснователи Apple, Skype и Pinterest, гендиректор SpaceX и Tesla, а также сотрудники Microsoft и Google.
- Более 1100 исследователей, инженеров и предпринимателей подписали открытое письмо ИИ-лабораториям — с просьбой «срочно и как минимум на полгода приостановить обучение ИИ-систем, более производительных, чем GPT-4». Если это невозможно, вмешаться должно правительство — например, ввести мораторий на эксперименты.
- Продукты с искусственным интеллектом, «сопоставимым с человеческим, могут представлять серьёзную угрозу обществу и человечеству», пишут авторы письма. При работе с ними разработчики должны быть крайне внимательными, но «этого не происходит», так как последние несколько месяцев они пытаются обогнать друг друга и выпустить «более мощные модели, действия которых сами не могут до конца понять, предсказать и проконтролировать».
- В письме авторы отмечают, что разработкой продуктов, которые могут заменить людей или породить больше новостной пропаганды, должны заниматься «избираемые» технологические лидеры. Сами системы при этом стоит создавать тогда, когда все уверены, что те принесут пользу, а рисками можно будет управлять. Пока силы следует направить на доработку уже существующих продуктов — чтобы сделать их точнее, безопаснее и прозрачнее.
- Это не значит, что нужно полностью остановить развитие технологии, пишут авторы: надо лишь «выйти из опасной гонки». Они предлагают в течение полугода объединить усилия и разработать единые для рынка правила безопасности, а также способы контроля экспериментов. По их словам, нужно также подключить правительства, чтобы те сформировали ведомства, которые будут сертифицировать продукты, смогут отличать реальный контент от «синтетического» и следить за утечками ИИ-моделей.
- На момент публикации среди подписавшихся числятся директор SpaceX, Tesla и Twitter Илон Маск и сооснователи Apple, Skype, Pinterest, Ripple — то есть Стив Возняк, Яан Таллинн, Эван Шарп и Крис Ларсен. Есть и главы фирм-разработчиков ИИ-продуктов — из Stability AI (Stable Diffusion), Scale AI, ThirdAI, Character.ai, Unanimous AI и других.
- Письмо также поддержали инженеры и исследователи Google и Microsoft и учёные и профессора из многочисленных университетов — Йельского, Оксфордского, Гарвардского, Кембриджского, Стэнфордского, Массачусетского технологического и других.
*Meta признана в России экстремистской организацией и запрещена.
28K
показов
32K
открытий
8
репостов
Комментарий недоступен
"через 2 года под миллиард человек останется без работы"...
А унитаз тоже нейронки починят?
Комментарий недоступен
Вообще-то, главная идея реплики в том, что замещение части человеческого труда не является проблемой. Работы вокруг - непочатый край.
Комментарий недоступен
А сейчас типа бурное развитие?:)
Комментарий недоступен
Есть ли тому подтверждения?
Комментарий недоступен
В чем это измеряется?
Комментарий недоступен
а труд?
Комментарий недоступен
Теперь осталось посчитать стоимость интеллектуального и физического труда необходимого для приготовления чашки кофе или буханки хлеба. Как?
Комментарий недоступен
Д.б. я не сумею объяснить, что человеческие трудозатраты снижаются, а не доля интеллектуального труда растет.:)
Комментарий недоступен
Марат, я понимаю, что такое доля, правда.:)
Попробуй услышать меня. Я говорю, что человеческие трудозатраты (и физические, и интеллектуальные) в приготовлении чашки кофе снижаются, но это НЕ ОЗНАЧАЕТ, что растут интеллектуальные трудозатраты с ростом автоматизации. Нажимать кнопку — это небольшой и НЕ интеллектуальный труд.
Комментарий недоступен
Зависит от того, как мы считаем интеллектуальные трудозатраты. Сейчас принято вычитанием. Это нечестно. Следует ввести безделье, как третий вид трудозатрат.:)