Главы техкомпаний, инженеры и исследователи попросили приостановить «масштабные ИИ-эксперименты» — они угрожают обществу Статьи редакции
Среди подписавшихся — сооснователи Apple, Skype и Pinterest, гендиректор SpaceX и Tesla, а также сотрудники Microsoft и Google.
- Более 1100 исследователей, инженеров и предпринимателей подписали открытое письмо ИИ-лабораториям — с просьбой «срочно и как минимум на полгода приостановить обучение ИИ-систем, более производительных, чем GPT-4». Если это невозможно, вмешаться должно правительство — например, ввести мораторий на эксперименты.
- Продукты с искусственным интеллектом, «сопоставимым с человеческим, могут представлять серьёзную угрозу обществу и человечеству», пишут авторы письма. При работе с ними разработчики должны быть крайне внимательными, но «этого не происходит», так как последние несколько месяцев они пытаются обогнать друг друга и выпустить «более мощные модели, действия которых сами не могут до конца понять, предсказать и проконтролировать».
- В письме авторы отмечают, что разработкой продуктов, которые могут заменить людей или породить больше новостной пропаганды, должны заниматься «избираемые» технологические лидеры. Сами системы при этом стоит создавать тогда, когда все уверены, что те принесут пользу, а рисками можно будет управлять. Пока силы следует направить на доработку уже существующих продуктов — чтобы сделать их точнее, безопаснее и прозрачнее.
- Это не значит, что нужно полностью остановить развитие технологии, пишут авторы: надо лишь «выйти из опасной гонки». Они предлагают в течение полугода объединить усилия и разработать единые для рынка правила безопасности, а также способы контроля экспериментов. По их словам, нужно также подключить правительства, чтобы те сформировали ведомства, которые будут сертифицировать продукты, смогут отличать реальный контент от «синтетического» и следить за утечками ИИ-моделей.
- На момент публикации среди подписавшихся числятся директор SpaceX, Tesla и Twitter Илон Маск и сооснователи Apple, Skype, Pinterest, Ripple — то есть Стив Возняк, Яан Таллинн, Эван Шарп и Крис Ларсен. Есть и главы фирм-разработчиков ИИ-продуктов — из Stability AI (Stable Diffusion), Scale AI, ThirdAI, Character.ai, Unanimous AI и других.
- Письмо также поддержали инженеры и исследователи Google и Microsoft и учёные и профессора из многочисленных университетов — Йельского, Оксфордского, Гарвардского, Кембриджского, Стэнфордского, Массачусетского технологического и других.
Добавлено в 16:32.
Профессор Нью-Йоркского университета и исследователь Meta* Ян ЛеКан сообщил в Twitter в ответ на удалённую публикацию, что не подписывал письмо и не согласен с его основным посылом (на момент обновления заметки его имя отсутствует в списке, а автора удалённого твита узнать невозможно — vc.ru). В комментариях к его заявлению пользователи предположили, что подписи могли быть сгенерированы ИИ, а также допустили, что, возможно, его имени там изначально и не было, а его внимание привлекли только ради «дополнительных кликов».
*Meta признана в России экстремистской организацией и запрещена.
28K
показов
32K
открытий
8
репостов
- Подождитииии, мы немного отстаём! Дайте фору хотя бы пол-годика.
Пхахах, только хотел это написать
Ведь рил так Open ai улетели уже со своим гпт. Microsoft тоже ща угарают как черты, вот все остальные и сказали типа, падажи мы тоже хотим
Никто их не боится, они так улетели, что отстают на пару лет от разработок Гугла, просто тот их не показывает, а выкат ChatGPT это просто социальный эксперимент.
Гугл так впереди, что когда хайпанул чатгпт, Гугл начал его рассматривать как возможного убийцу их поискового бизнеса, после чего создал кризисную комиссию во главе с бывшими владельцами, после который на коленке из того что было собрал Барта как конкурента чатгпт и успешно обкакался на его презентации. Действительно впереди и действительно ни капли не переживают
какой убийца поискового бизнеса.
чат гпт это просто хороший контекстный поисковик.
гугл вернет google search query и будет гпт, только функциональный
Если у пользователя будет сформирована привычка получать релевантный ответ в виде короткого или длинного текста, а не в виде набора ссылок, по которым нужно переходить и искать ответ в тексте, то что делать с контекстной рекламой, которая является основой экономики google?
Майкрософт свои деньги заберет по подписке на приложения и облачные сервисы, а для google это может быть ударом.
Поэтому вопрос, на мой взгляд, не в том, у кого лучше модель, а кто сможет зарабатывать в новой парадигме.
пока вокруг гпт больше хайпа, то программистов заменят, то копирайтеров.
А в это время секретарши на ресепшине как сидели так и сидят
Сейчас да, но такая вещь, что Apple, Microsoft (уже) и прочие могут последовать примеру и интегрировать подобную языковую модель и придумать/ребрендировать свой поисковик.
Информация в интернете расходится быстро, если будет что-то удобнее и проще Google, то даже секретарши об этом узнают. Особенно если это упоминается в масс-медиа (Как ChatGPT в том же South Park).
Тут помимо угрозы потери доли рынка есть еще упущенная выгода от не захваченного рынка. Я думаю следующий сильный удар по Google, потенциально может сделать Apple. Свой браузер у них уже есть, остается переосмыслить поисковик и связанные продукты и показать на WWDC.
Комментарий удален модератором
Ну так Bard (очевидно вы про него, а не про BART или BERT) далеко не самая продвинутая их модель. Это какая-то урезанная версия LaMDA, которая лучше ChatGPT, но при этом не лучшая из моделей Гугла.