Главы техкомпаний, инженеры и исследователи попросили приостановить «масштабные ИИ-эксперименты» — они угрожают обществу Статьи редакции
Среди подписавшихся — сооснователи Apple, Skype и Pinterest, гендиректор SpaceX и Tesla, а также сотрудники Microsoft и Google.
- Более 1100 исследователей, инженеров и предпринимателей подписали открытое письмо ИИ-лабораториям — с просьбой «срочно и как минимум на полгода приостановить обучение ИИ-систем, более производительных, чем GPT-4». Если это невозможно, вмешаться должно правительство — например, ввести мораторий на эксперименты.
- Продукты с искусственным интеллектом, «сопоставимым с человеческим, могут представлять серьёзную угрозу обществу и человечеству», пишут авторы письма. При работе с ними разработчики должны быть крайне внимательными, но «этого не происходит», так как последние несколько месяцев они пытаются обогнать друг друга и выпустить «более мощные модели, действия которых сами не могут до конца понять, предсказать и проконтролировать».
- В письме авторы отмечают, что разработкой продуктов, которые могут заменить людей или породить больше новостной пропаганды, должны заниматься «избираемые» технологические лидеры. Сами системы при этом стоит создавать тогда, когда все уверены, что те принесут пользу, а рисками можно будет управлять. Пока силы следует направить на доработку уже существующих продуктов — чтобы сделать их точнее, безопаснее и прозрачнее.
- Это не значит, что нужно полностью остановить развитие технологии, пишут авторы: надо лишь «выйти из опасной гонки». Они предлагают в течение полугода объединить усилия и разработать единые для рынка правила безопасности, а также способы контроля экспериментов. По их словам, нужно также подключить правительства, чтобы те сформировали ведомства, которые будут сертифицировать продукты, смогут отличать реальный контент от «синтетического» и следить за утечками ИИ-моделей.
- На момент публикации среди подписавшихся числятся директор SpaceX, Tesla и Twitter Илон Маск и сооснователи Apple, Skype, Pinterest, Ripple — то есть Стив Возняк, Яан Таллинн, Эван Шарп и Крис Ларсен. Есть и главы фирм-разработчиков ИИ-продуктов — из Stability AI (Stable Diffusion), Scale AI, ThirdAI, Character.ai, Unanimous AI и других.
- Письмо также поддержали инженеры и исследователи Google и Microsoft и учёные и профессора из многочисленных университетов — Йельского, Оксфордского, Гарвардского, Кембриджского, Стэнфордского, Массачусетского технологического и других.
*Meta признана в России экстремистской организацией и запрещена.
28K
показов
32K
открытий
8
репостов
Опасения оправданные, но прогресс не остановить.
В чём суть опасений то? Что произойдёт?
В конечном итоге мы получим универсальный интеллект сильнее нашего, который сам себя будет совершенствовать со всё нарастающей скоростью. Мы ему будем для этого не нужны. Он будет ВСЁ делать лучше чем мы, включая делать научные открытия, которые будет использовать для собственного совершенствования. Он будет обладать сознанием. Он также будет способен влиять на физический мир (с помощью роботов). Наш интеллект будет по сравнением с ним примерно как интеллект обезьяны по сравнению с интеллектом человека. Мы даже не будем способны понять что он там наоткрывал и напридумывал и что и для чего он делает, так же как обезьяна неспособна понять что и зачем делает человек и открытия сделанные человеком. Нам просто способностей нашего мозга для этого не хватит. И так же как обезьяна неспособна контролировать человека, так же и мы будем неспособны контролировать ИИ, так как наша власть на планете идёт именно от преимущества в интеллекте. И если мы лишимся этого преимущества, то лишимся и власти в том числе над ИИ. Что будет при этом с человечеством - непонятно.
Это всё не я напридумывал - это пессимистический прогноз многих футуристов.
Можете еще про сингулярность почитать
https://ru.wikipedia.org/wiki/%D0%A2%D0%B5%D1%85%D0%BD%D0%BE%D0%BB%D0%BE%D0%B3%D0%B8%D1%87%D0%B5%D1%81%D0%BA%D0%B0%D1%8F_%D1%81%D0%B8%D0%BD%D0%B3%D1%83%D0%BB%D1%8F%D1%80%D0%BD%D0%BE%D1%81%D1%82%D1%8C
танков и самолетов не лишимся, они к сети не подключены. расхуярить сервера и дело с концом
начинать вообще можно с ЛЭП. Как на плакатах времен ВОВ
пральна! бойтесь мещане- неведанное грядёт
produced by "бесконечные пророки"
Быстрый и мощный всплеск безработицы.
И что они за пол-года хотят сделать?
Зарегулировать эту сферу. В том числе чтобы появились и начали массово использоваться инструменты, позволяющие четко отличать контент, созданный человеком и созданный ИИ.
Кстати, да. Что за 6-8 месяцев можно такого придумать, чтобы заместить то количество безработных, которое создал бы гпт и ему подобные? Войну разжечь? Из самого быстрого только такое. Сопоставимы ли траты на войну такого масштаба и доходы от внедрения AI? Думаю, если что-то введут - через полгода запросят еще запретов.
Да никаких безработных гпт не делает. 1% от всех и то - не факт. Они просто европейскому обывателю эти ужасы про безработицу из-за ИИ дуют в уши уже лет десять так точно.
Счас там массовые увольнения, как раз, начались. Вот и делают вид, что озабочены и хотят этому воспрепятствовать)))
Народ там неплохо подготовлен, ждал чего-то такого) И вот спасители человечества собрались на экстренное заседание) Ну и цирк)
Да и время перед войной тянут
Всплеск уже пошел. В Европе увольнения десятками тысяч.
И реальная причина одна - на дворе капитализм в своей последней фазе и последнем кризисе.
Теперь они просто придумали, на кого можно все спихнуть.
Ну, попутно и гешефт какой-то сделают, не без того.
https://www.alignmentforum.org/posts/uMQ3cqWDPHhjtiesc/agi-ruin-a-list-of-lethalities
Это вот прям хорошо, спасибо.