Code Llama, замена программистов нейросетями и будущее Web 4.0

Поигрался с Code Llama

Недавно я тестировал Code Llama, самую развитую из публично доступных ИИ моделей, предназначенных для написания кода. По сути это Llama 2, заточенная путем файнтюнинга под кодинг-задачи. Я тестировал эту модель в качестве бэкенда к моему собственному проекту gptchain, о котором подробнее можно прочитать в моем телеграм-канале.

Вместо того, чтобы описывать здесь все плюсы и минусы Code Llama, я просто вставлю выше краткий видеообзор и перейду к выводам. Многие компании в IT индустрии уже начали серьезно присматриваются к возможностям моделей, способных писать код, так как это может принести им реальный профит уже сейчас.

А что это значит для разработчиков? Нас таки уже заменяют нейросетями или еще нет?

В качестве ответа на этот вопрос у меня назрела теория, что все эти перемены - признаки перехода к Web 4.0, новому поколению всемирной паутины. И переход неизбежно влечет за собой перестройку IT профессий.

В экономическом плане это выглядит так, что Web 3.0 профессии заметно деградируют, компании не получают прежней прибыли, кодовая база по большей части легаси. От программистов уже не требуется много думать, а больше на автомате рефакторить код, так как весь критический функционал уже написан. Mногие позиции сокращают, а рост зарплат не успевает за инфляцией.

На этом фоне влияние ИИ на индустрию двояко: да, эти нейросети, очевидно, нацелены заменить часть традиционных Web 3.0 профессий. С другой стороны, именно за счет ИИ стартапов, которые сейчас активно множатся, появляются новые рабочие места в IT. И чем мы будем заниматься на следующем витке эволюции IT - в эпоху Web 4.0 - я вижу примерно следующим образом.

Что такое Web 4.0?

Code Llama, замена программистов нейросетями и будущее Web 4.0

IoT, augmented reality и, естественно, AI названы в качестве компонентов Web 4.0 - следующего поколения World Wide Web.

Каждая из технологий обладает потенциалом, но как использовать этот потенциал для рынка?

Одна из самых мощных функций ИИ на сегодняшний день - генеративная, ИИ может создавать синтетические данные и манипулировать существующими. Задача инженеров состоит в том, чтобы заставить его это делать с пользой для бизнеса.

Augmented reality хороша для рекламных компаний, а IoT - для автоматизации логистических цепей. Но если конечная задача рекламы - привести пользователя на традиционную посадочную страницу, а обработка заказа происходит через традиционную форму в приложении, это значит - мы все еще в Web 3.0.

Так чего не хватает?

Технологией, ключевой для перехода в Web 4.0, на мой взгляд является способность ИИ взаимодействовать с данными пользователями. Document Retrieval, чат с документами - называйте как угодно. Представьте, что у вас есть личный веб-сайт, который живет в сети по законам Web 3.0, то есть содержит документы на языке разметки HTML, индексируется поисковым движком. ИИ может создать для вас Web 4.0-версию такого же веб-сайта, только пользователи смогут читать их не через поисковик, а через чат ИИ помощника. Казалось бы, разница невелика, но на самом деле она огромна - ведь ИИ может делать выводы и принимать решения на основе ваших данных. Он может поговорить от вашего лица, скажем, с торговым представителем фирмы, которая заинтересована в вас как покупателе. Владея данными о ваших потребностях и бюджете, ИИ может определить, интересно ли вам предложение, выяснить условия сделки и, скажем, скинуть эту информацию вам в мессенджер. Он запросто может проанализировать историю ваших предыдущих покупок, предоставить вам сравнительную выборку цен от других поставщиков, ответить на ваши уточняющие вопросы. Обдумав предложение, вы нажимаете кнопку... Понятно теперь, в общих чертах, какие перспективы открываются для рынка?

Моя гипотеза состоит в том, что разработчикам предстоит использовать свои навыки, приобретенные в эпоху Web 3.0, чтобы построить новый интернет, в котором роль веб сервера будут играть ИИ модели. Нейросети будут отвечать за управление цифровым контентом. Это значит, что помимо экспертов непосредственно в области ИИ, рынку понадобятся:

Сетевые инженеры. Существует, на мой взгляд, большая вероятность, что в эпоху Web 4.0 будут создаваться новые протоколы обмена данными по сети. Производительность генеративных ИИ моделей очень зависит от структуры введенного текста, по этой причине в разработке ИИ приложений уделяют все больше внимания промпт-инжинирингу. Разные семейства моделей, например Llama, оптимизированы под разные форматы промпта в силу свойств датасета, на котором их обучали. Никаких стандартов в этом разнообразии форматов ввода пока нет. Поэтому я вижу необходимость разработки протокола, который позволит эту проблему решить. Возможно, он будет построен на базе протокола HTTP.
Девопсы и разработчики облачной инфраструктуры. ИИ требует более мощных вычислительных ресурсов, чем приложения Web 3.0. Выделение ресурсов для них - например, виртуальных машин и GPU - требует развитой инфраструктуры. Облачным провайдерам, как и on-premise, придется адаптироваться к этим требованиям.
Эксперты по информационной безопасности. Здесь тоже хватает совершенно новых задач, так как все вышеперечисленное - это новый способ обмена данными в сети, несущий с собой букет совершенно новых уязвимостей.

В общем, если моя гипотеза верна, то очень многие IT работники, занятые на рынке сейчас, могут адаптировать свои навыки для решения задач будущего. Оно, как говорится, покажет.