Обещания новая модель Grok не вышла в срок
Маск неоднократно обещал появление следующей многообещающей версии Grok к концу 2024 года. Этого очевидно не случилось. Почему? О чем это говорит? Исключительное ли это событие для обновления нейросетей? Читайте ответы на эти вопросы.
Летом прошлого года Илон Маск, основатель и генеральный директор компании xAI, занимающейся разработкой искусственного интеллекта, заявил, что Grok 3 (следующая крупная модель искусственного интеллекта от xAI), обученная на огромном кластере графических процессоров xAI в Мемфисе, появится к концу 2024 года.
** Еще больше интересного в моем канале продуктовые штучки**
Grok — это ответ xAI на GPT-4o от OpenAI и Gemini от Google. Она может анализировать изображения и отвечать на вопросы, а также поддерживает ряд функций X, социальной сети Маска.
Grok 3 в конце года после обучения на 100 тыс. H100 должен быть действительно чем-то особенным»
Однако уже 3 января, а Grok 3 все еще не вышел, и нет никаких признаков того, что это случится.
Код на сайте xAI, обнаруженный экспертом по ИИ Тибором Блахо, позволяет предположить, что первой может появиться промежуточная модель Grok 2.5.
Это что-то новое для Маска?
Это не первый раз, когда Маск ставит высокую цель и не достигает ее. Хорошо известно , что заявления Маска о сроках запуска продуктов часто в лучшем случае нереалистичны.
И справедливости ради стоит отметить, что в интервью подкастеру Лексу Фридману в августе Маск сказал , что Grok 3 «надеюсь» будет доступен в 2024 году, «если нам повезет».
Это необычно для рынка?
Тоже нет. Например, в прошлом году Anthropic не смог выпустить преемника своей топовой модели Claude 3 Opus. Спустя несколько месяцев после объявления о том, что модель следующего поколения, Claude 3.5 Opus, будет выпущена к концу 2024 года, Anthropic удалил все упоминания этой модели из своей документации для разработчиков. Согласно одному отчету, Anthropic закончил обучение Claude 3.5 Opus где-то в прошлом году, но решил, что выпуск его экономически неоправдан.
В последние месяцы Google и OpenAI также столкнулись с неудачами со своими флагманскими моделями.
О чем это говорит?
Это специфика нейромоделей: очень сложно предсказать, когда получишь искомый результат (если вообще получишь).
Маск это осознает хорошо, о чем сказал в интервью Фридману. «Вы надеетесь, что [Grok 3] будет по последнему слову техники?» — спросил Фридман. «Надеюсь», — ответил Маск. «Я имею в виду, что это цель. Мы можем потерпеть неудачу в достижении этой цели. Это стремление».
В чем причины непредсказуемости результата нейромоделей?
Во-первых, улучшение модели - нелинейный процесс, и вместо улучшения модели можно запросто получить ухудшение.
В-вторых, это может быть свидетельством ограничений текущих законов масштабирования ИИ: методов, которые компании используют для увеличения возможностей своих моделей.
В не столь далеком прошлом можно было добиться существенного повышения производительности путем обучения моделей с использованием огромных объемов вычислительной мощности и все больших наборов данных. Но прирост с каждым поколением модели начал уменьшаться, что заставило компании искать альтернативные методы обучения, менее затратные.
Могут быть и другие причины задержки Grok 3. Например, у xAI гораздо меньше команды, чем у многих конкурентов. Тем не менее, сдвинутые сроки запуска добавляются к совокупности доказательств того, что традиционные подходы к обучению ИИ упираются в стену.
Маск неоднократно обещал появление следующей многообещающей версии Grok к концу 2024 года.
Ну ничего страшного, у многих бывают проблемки, которые не позволяют выпустить все в срок, так что ту только будем надеяться, что задержка выпуска будет не такая уж и большая