Главы техкомпаний, инженеры и исследователи попросили приостановить «масштабные ИИ-эксперименты» — они угрожают обществу Статьи редакции
Среди подписавшихся — сооснователи Apple, Skype и Pinterest, гендиректор SpaceX и Tesla, а также сотрудники Microsoft и Google.
- Более 1100 исследователей, инженеров и предпринимателей подписали открытое письмо ИИ-лабораториям — с просьбой «срочно и как минимум на полгода приостановить обучение ИИ-систем, более производительных, чем GPT-4». Если это невозможно, вмешаться должно правительство — например, ввести мораторий на эксперименты.
- Продукты с искусственным интеллектом, «сопоставимым с человеческим, могут представлять серьёзную угрозу обществу и человечеству», пишут авторы письма. При работе с ними разработчики должны быть крайне внимательными, но «этого не происходит», так как последние несколько месяцев они пытаются обогнать друг друга и выпустить «более мощные модели, действия которых сами не могут до конца понять, предсказать и проконтролировать».
- В письме авторы отмечают, что разработкой продуктов, которые могут заменить людей или породить больше новостной пропаганды, должны заниматься «избираемые» технологические лидеры. Сами системы при этом стоит создавать тогда, когда все уверены, что те принесут пользу, а рисками можно будет управлять. Пока силы следует направить на доработку уже существующих продуктов — чтобы сделать их точнее, безопаснее и прозрачнее.
- Это не значит, что нужно полностью остановить развитие технологии, пишут авторы: надо лишь «выйти из опасной гонки». Они предлагают в течение полугода объединить усилия и разработать единые для рынка правила безопасности, а также способы контроля экспериментов. По их словам, нужно также подключить правительства, чтобы те сформировали ведомства, которые будут сертифицировать продукты, смогут отличать реальный контент от «синтетического» и следить за утечками ИИ-моделей.
- На момент публикации среди подписавшихся числятся директор SpaceX, Tesla и Twitter Илон Маск и сооснователи Apple, Skype, Pinterest, Ripple — то есть Стив Возняк, Яан Таллинн, Эван Шарп и Крис Ларсен. Есть и главы фирм-разработчиков ИИ-продуктов — из Stability AI (Stable Diffusion), Scale AI, ThirdAI, Character.ai, Unanimous AI и других.
- Письмо также поддержали инженеры и исследователи Google и Microsoft и учёные и профессора из многочисленных университетов — Йельского, Оксфордского, Гарвардского, Кембриджского, Стэнфордского, Массачусетского технологического и других.
Добавлено в 16:32.
Профессор Нью-Йоркского университета и исследователь Meta* Ян ЛеКан сообщил в Twitter в ответ на удалённую публикацию, что не подписывал письмо и не согласен с его основным посылом (на момент обновления заметки его имя отсутствует в списке, а автора удалённого твита узнать невозможно — vc.ru). В комментариях к его заявлению пользователи предположили, что подписи могли быть сгенерированы ИИ, а также допустили, что, возможно, его имени там изначально и не было, а его внимание привлекли только ради «дополнительных кликов».
*Meta признана в России экстремистской организацией и запрещена.
28K
показов
32K
открытий
8
репостов
И вот такой момент. Сейчас все задачи, которые решает GPT в массе своей – это рутинные алгоритмические задачи. И заменяет он по сути линейный персонал. Это, конечно, прогресс, но в целом это на прорыв в развитии человечества ещё не тянет
Развитие GPT рано или поздно приведёт к выходу его на уровень стратегических решений. И гораздо более широких возможностей. Это будут не просто тексты и картинки в качестве ответов в чате, не торги акциями, а гораздо более масштабные воздейстия. При этом сложно спрогнозировать, как ИИ себя поведет и можно ли будет его отключить. Поэтому да, речь про контролируемое развитие.
Ну и подписавшие обращение ребята гораздо провели времени в изучении сценариев будущего, чем все мы.
Если одномоментно окажутся ненужными десятки процентов всех людей в мире (тот самый линейный персонал) - это уже само по себе может очень сильно изменить всю структуру человеческого общества.
Эпоха 'прав человека' и относительно равных возможностей не просуществовала ещё и ста лет. И возникла она только потому, что на данном этапе экономике нужно огромное количество квалифицированных и замотивированных сотрудников. Однако же подавляющую часть человеческой истории узкая группа элит концентрировала все ресурсы и имела абсолютную власть над жизнями и судьбами остальных людей. Наивно думать, что это не может повториться.
Почему про элиты в прошедшем времени?) Ничего не изменилось. Элиты смогли внушить части интеллигенции, что у тех есть какие-то права))) На деле очень сложно эти самые права реализовать. Всегда появляются исключения и тп.
//огромное количество квалифицированных и замотивированных сотрудников
всё это не тянет не десятки процентов трудоустроенных. Никак.
И да, спрос на квалифицированных работников сейчас огромен. Их просто нет.
А какую долю, по вашему, занимает линейный персонал в общем числе трудоустроенных? Неужели единицы процентов?
И в данном контексте квалифицированный - это требующий длительного обучения, а мотивация - это то, что необходимо для того чтобы индивид стремился учиться. И да, всего каких-то 150 лет назад большая часть рабочей силы не умела даже читать, и это от нее не требовалось
Линейные - это кто после скилфакторибокса. Так же повысят квалификацию. Причем с новой убервафлей сделают это очень быстро, играючи и с удовольствием. А так как повысили квалификацию, то и за тоже надо будет подтянуть. Инфляция - движ экономики. Пока чатгпт не научит нас жить по-другому.
Комментарий недоступен
ну я ровно про это и говорю
Что предупреждение идёт об удержании ограничения