Главы техкомпаний, инженеры и исследователи попросили приостановить «масштабные ИИ-эксперименты» — они угрожают обществу Статьи редакции
Среди подписавшихся — сооснователи Apple, Skype и Pinterest, гендиректор SpaceX и Tesla, а также сотрудники Microsoft и Google.
- Более 1100 исследователей, инженеров и предпринимателей подписали открытое письмо ИИ-лабораториям — с просьбой «срочно и как минимум на полгода приостановить обучение ИИ-систем, более производительных, чем GPT-4». Если это невозможно, вмешаться должно правительство — например, ввести мораторий на эксперименты.
- Продукты с искусственным интеллектом, «сопоставимым с человеческим, могут представлять серьёзную угрозу обществу и человечеству», пишут авторы письма. При работе с ними разработчики должны быть крайне внимательными, но «этого не происходит», так как последние несколько месяцев они пытаются обогнать друг друга и выпустить «более мощные модели, действия которых сами не могут до конца понять, предсказать и проконтролировать».
- В письме авторы отмечают, что разработкой продуктов, которые могут заменить людей или породить больше новостной пропаганды, должны заниматься «избираемые» технологические лидеры. Сами системы при этом стоит создавать тогда, когда все уверены, что те принесут пользу, а рисками можно будет управлять. Пока силы следует направить на доработку уже существующих продуктов — чтобы сделать их точнее, безопаснее и прозрачнее.
- Это не значит, что нужно полностью остановить развитие технологии, пишут авторы: надо лишь «выйти из опасной гонки». Они предлагают в течение полугода объединить усилия и разработать единые для рынка правила безопасности, а также способы контроля экспериментов. По их словам, нужно также подключить правительства, чтобы те сформировали ведомства, которые будут сертифицировать продукты, смогут отличать реальный контент от «синтетического» и следить за утечками ИИ-моделей.
- На момент публикации среди подписавшихся числятся директор SpaceX, Tesla и Twitter Илон Маск и сооснователи Apple, Skype, Pinterest, Ripple — то есть Стив Возняк, Яан Таллинн, Эван Шарп и Крис Ларсен. Есть и главы фирм-разработчиков ИИ-продуктов — из Stability AI (Stable Diffusion), Scale AI, ThirdAI, Character.ai, Unanimous AI и других.
- Письмо также поддержали инженеры и исследователи Google и Microsoft и учёные и профессора из многочисленных университетов — Йельского, Оксфордского, Гарвардского, Кембриджского, Стэнфордского, Массачусетского технологического и других.
Добавлено в 16:32.
Профессор Нью-Йоркского университета и исследователь Meta* Ян ЛеКан сообщил в Twitter в ответ на удалённую публикацию, что не подписывал письмо и не согласен с его основным посылом (на момент обновления заметки его имя отсутствует в списке, а автора удалённого твита узнать невозможно — vc.ru). В комментариях к его заявлению пользователи предположили, что подписи могли быть сгенерированы ИИ, а также допустили, что, возможно, его имени там изначально и не было, а его внимание привлекли только ради «дополнительных кликов».
*Meta признана в России экстремистской организацией и запрещена.
28K
показов
32K
открытий
8
репостов
Права на свободное время, чтобы пить смузи в какой нибудь солнечной стране и говорить как они афирмациями всего добились сами должны быть только у богатых.Остальные должны работать.ИИ рискует освободить работяг от работы
А мне кажется ИИ прежде всего работников "интеллектуального" труда освободит. Сначала "нфлюенсеров", блогеров, маркетологов, дизайнеров, потом управленцев, топ-менеджеров. А кожаным мешкам оставит черную работу, к которой наши тела очень хорошо приспособлены - копать, таскать, поднимать, носить и т.п. Зачем изобретать какие-то физические устройства, налаживать их производство, если кожаных мешков, готовых работать за несколько воображаемых цифр в телефоне - 7 млрд
Это называется парадокс Моравека.
https://ru.wikipedia.org/wiki/%D0%9F%D0%B0%D1%80%D0%B0%D0%B4%D0%BE%D0%BA%D1%81_%D0%9C%D0%BE%D1%80%D0%B0%D0%B2%D0%B5%D0%BA%D0%B0
сладкие мечты пролетариев 😂
при таком раскладе хуево будет примерно всем))
Все он верно сказал. Рутинная «офисная» работа первой попадает под автоматизацию. Можно просто посмотреть историю, как кад системы ликвидировали чертежников, а ивр сократили секретарей.
Внедрение КАД систем переучило чертежников пользоваться этими самыми системами и обозвало их конструкторами
Вы правда считаете, что тертежники бросились массово изучать сопромат? Я вот застал эту эпоху и не согласен ну вообще.
Хм, ну если были очевидцем, то да. Сам конструктор, старшие возрастные конструктора просто переучивались работать в кадах, мало кого увольняли. Были отдельные профессии чертежников?
Конечно:)
Тогда все встает на свои места. Государствам не нужны толпы слоняющихся безработных, хомячкам маркетологам, контент-мейкерам и прочим персонажам, которые просто занимают рабочие места найдут новое занятие, на улицах никто не останется
Велфер, легалайз и vr. Вместе с отклонениями по функции размножения - готовый комплект:) Мне это давно именно так и видится.
Если не затруднит. Про какие отклонения по функции размножения Вы рассматриваете?
Те, про которые (в целом) нельзя говорить:)
Исчерпывающий ответ)