Суперинтеллект призывают запретить!
Один из ИИ-агентов собирает для меня ежедневно новости про ИИ. И сегодня я увидел от него сообщение, что суперинтеллект (superintelligence - ИИ, который на порядок превосходит человека во всех когнитивных задачах— пока что недостигнутая планка, но возможно достижимая в обозримом будущем) призывают забанить.
Оказалось, что завирусилось очередное открытое письмо с такой формулировкой:
Мы призываем к запрету на разработку суперинтеллекта, который не должен быть снят до тех пор, пока не будет
1. достигнут широкий научный консенсус относительно того, что это будет сделано безопасно и контролируемо,
2. получена широкая общественная поддержка его разработки
Среди подписантов нобелевский лауреат (как раз за разработку алгоритмов в основе ИИ) Джеффри Хинтон, Стив Возняк (со-создатель Apple), Ричард Бренсон (глава частной космической компании Virgin) и ещё 52 000 подписантов на момент написания этого поста.
Как вы думаете кого нет среди них? — Илона Маска, Сэма Альтмана, Марка Цукерберга и других лидеров AI компаний.
Хотя всего год назад Илон Маск бил тревогу, что нужно затормозить развитие ИИ на полгода минимум, пока не будет разработана регуляторика. Кхм, пока его Grok не выбрался из отстающих и не стал еще одной топовой LLM. Потом проблема внезапно исчезла в глазах Маска…
А Сэм Альтман недавно в интервью говорил, что ИИ может стать причиной вымирания человечества и даже подписывал другое письмо, которое призывает вынести эту проблему на один уровень с проблемой ядерного оружия. Только вот это письмо ни к чему толком не призывает, кроме дополнительного внимания к подписантам. В связи с чем его подписали вообще все кто по-кайфу среди лидеров ИИ компаний.
В ту же копилку — на днях Сэм Альман лично провел часовой стрим, где по сути объявил, что OpenAI теперь коммерческая компания (если вы не знали, раньше они считались некоммерческой организацией).
Пекутся ли создатели ИИ о его безопасном внедрении и изменениях в экономике, или о своем конкурентном преимуществе подписывая такие письма? Ну вы поняли 🥂
Читая все эти апокалиптические заявления и письма об угрозе ИИ, будьте скептичны и всегда задавайте себе вопрос — а кому это заявление или письмо выгодно? Чаще всего такие письма носят чисто пиар значимость.
Подписывайся, у меня полезное про ИИ агентов без инфошума.