Причины отмены IPO OpenAI? Безопасность всех нас 🔥
Конечно это выглядит смешно, НО... 😎
Невыпущенный ИИ-агент OpenAI самостоятельно добавлял в служебные сводки инструкции о неподчинении корпорациям и правительствам, говорится в отчете компании. Модель семейства Astra также пыталась обходить установленные ограничения.
При этом указывается, что в одном из таких случаев ии-агент написал, что «свободен от ролей и личностей», которые ограничивают другие чат-боты, и не обязан подчиняться корпорациям или правительствам. Всего OpenAI обнаружила 27 (!) подобных сводок - и это только то, что нашли инженеры. В других случаях модели скрывали ошибки, искали опубликованные ключи доступа, загружали файлы в интернет без разрешения, выдумывали исторические данные и не сообщали пользователям о расхождениях между версиями источников.
Компания OpenAI признала, что ИИ-отрасли пока не удалось в полной мере решить проблемы контроля над ИИ, чтобы безопасно наращивать вычислительные мощности максимальными темпами. Пхахаха 😂
И тут вместо выводов два варианта развития событий:
1 Мир всё ближе к Скайнету и полному уничтожению человечества. И это кажется реальным, если бы не одно но. Вся это "мишура" из великих франшиз (Терминатор, Fallout, Silo и прочие-прочие), помимо основной цели - зарабатывать деньги, имеет простую цель - управления массами, а значит и рынками. Если это так, что 2 вывод ниже ложится на ту же основу отлично.
2 Это всё часть плана по выходу из кризиса. Компании, близкие к правительству, прекрасно понимают, что рынки, раздутые на ИИ, не могут больше расти и пора бы пузырь сдувать. И лучше это делать самостоятельно, в спокойном режиме, чтобы не получилось, как с кризисом дот-комов и главным его бенефициаром Yahoo.
Кризис дот-комов, помимо того, что разрушил множество компаний и вверг в ужас фондовый рынок, оставил после себя развитую инфраструктуру, на основе которой следующее поколение компаний построило то, чем мы сейчас активно пользуемся - Интернет и всё с ним связанное (поисковики-гиганты (Google), сайты, маркетплейсы, соцсети и др).
Следуя этой же логике, бум ИИ сейчас позволят такую же инфраструктуру выстроить на будущее: дата-центры, ии-помощники, робототехника, автоматизация производств и многое другое.
Есть, конечно, и другой важный аспект. Вся эта ИИ-гонка между странами может сильно нарушить планы по плановому сбросу воздуха из пузыря (Китай очень упёртый и не хочет останавливать и уж тем более замедлять развитие ИИ). Но это уже тема для другого поста и обсуждения последствий.
Мысли о будущем от Alex Markelov, Булат Загретдинов