GPT-4 готовится устранить недостатки предыдущих моделей и зарядить ИИ новой энергией

Недавно исследовательская группа OpenAI представила новую нейронную сеть GPT-4, которая показала впечатляющие результаты на нескольких профессиональных экзаменах.

Многие комментаторы были поражены ее способностями и заявили, что она не уступает человеческому интеллекту. Однако научный обозреватель Forbes Анатолий Глянцев считает, что это не так просто и что успехи GPT-4 открывают новые возможности, но также и риски.

OpenAI известна своими нейронными сетями серии GPT, и новая модель GPT-4 по многим показателям значительно превосходит ее предшественницу GPT-3.5 и другие нейросети.

Несмотря на то, что речь пока не идет о создании полноценного искусственного разума, некоторые эксперты считают, что он уже не за горами. GPT-4 создает возможности для развития искусственного интеллекта, но также и риски, которые нужно учитывать.

Мозг усиливает или ослабляет связи между нейронами, чтобы учиться и запоминать. Искусственные нейронные сети также используют этот принцип, но это единственное сходство между ними и мозгом, поэтому сравнение коммерческих нейросетей с мозгом можно проводить лишь условно, как сравнение самолета с птицей.

Процесс обучения простой нейросети можно описать так: нейроны голосуют за то, что изображено на картинке (например, котик) или нет. Затем ответ, выбранный большинством голосов, сравнивается с правильным ответом.

Нейронам, которые проголосовали правильно, при следующем голосовании придается больший вес, а тем, которые допустили ошибку, — меньший. Чтобы сеть из 16 нейронов научилась распознавать, например, цифру "5" с точностью 70-80%, достаточно десяти тысяч обучающих прогонов, которые могут быть выполнены менее чем за секунду работы ноутбука.

Коммерческие нейросети гораздо более сложны, чем простые нейросети. Они содержат множество слоев нейронов, между которыми сигналы передаются в разных направлениях.

Разные нейросети имеют разную архитектуру: разное число нейронов и слоев, разные пути передачи сигнала и т. д. Алгоритмы обучения также могут быть очень сложными и отличаться от простого алгоритма, описанного выше.

Некоторые системы состоят из нескольких нейронных сетей, каждая из которых выполняет свою задачу. Некоторые нейросети даже проверяют друг друга: например, одна создает изображение, а другая ищет в нем ошибки.

В 1960-х годах появились первые нейросети, которые использовали тепловые лампы в качестве нейронов. Однако сегодня нейроны стали математической абстракцией, а нейросети – программами.

Несмотря на то, что история нейросетей знала периоды скепсиса и взлетов, в настоящее время этот вид технологии переживает необыкновенный подъем.

Такие примеры как голосовые помощники, автоматические переводчики и многое другое были бы невозможны без развития нейронных сетей.

Это произошло благодаря увеличению мощности и возможностей компьютеров. Современные архитектуры нейросетей и алгоритмы обучения были недоступны для железа еще в 1990-х, но теперь возможности компьютерной памяти стали доступнее и шире распространены, чем раньше.

Кроме того, благодаря распространению интернета стало возможным сбор большого количества данных, включая более 60 миллионов статей только в Википедии.

Недавно появившиеся трансформеры, такие как GPT-4, являются разновидностью нейросетей, которые позволяют проходить этапы обучения параллельно, что раньше было недоступно.

Это позволяет системам быстро обрабатывать большие объемы данных. Некоторые эксперты называют это событие революцией.

Разработчики GPT-4 описали лишь самые общие принципы своей нейросети, не раскрывая технические детали в техническом отчете.

OpenAI обосновывает это конкуренцией и потенциальными рисками для нейросетей такой мощности. Тем не менее, GPT-4 впечатляет своими возможностями и результатами.

Нейросеть умеет обрабатывать текст и изображения, и вскоре будет доступна для общения в сервисе ChatGPT. На базе больших массивов данных, как открытых, так и закрытых, проводилось обучение системы предсказывать следующее слово в тексте.

Чтобы улучшить навыки и снизить ошибки, нейросеть получала обратную связь от человека. GPT-4 успешно прошла ряд стандартных тестов для нейросетей, обрабатывающих естественный язык, включая сложные задания на понимание контекста и смысла, превзойдя все предыдущие аналоги.

Нейросеть GPT-4 прошла более 30 профессиональных экзаменов без предварительной подготовки и продемонстрировала результаты наравне с людьми, а в некоторых случаях и превосходя их.

Например, на универсальном юридическом экзамене GPT-4 показала результат в 10% лучших экзаменуемых, в то время как предыдущая версия GPT-3.5 оказалась среди низших 10%.

Нейросеть также получила высокие оценки по различным предметам, таким как математика, биология, химия и история. Однако, в индустрии искусственного интеллекта все так быстро меняется, что нельзя оценить реальную значимость GPT-4.

Несмотря на ее впечатляющие результаты, она не навсегда удержится на пьедестале, так как это лишь продолжение непрерывного потока перемен в области фундаментальных трансформерных моделей.

Как и любая другая технология, нейросеть имеет свои плюсы и минусы. Преимущества заключаются в новых возможностях в различных областях, однако за этим идут и риски. Разработчики обратились к более чем 50 экспертам различных сфер для того, чтобы оценить эти риски.

Одним из главных потенциальных негативных аспектов является чрезмерное доверие пользователей. Например, GPT-4 иногда может допускать ошибки и выдумывать факты, хоть и реже, чем предыдущая версия GPT-3.5. Если пользователи будут привыкать доверять нейросети, то есть риск стать жертвой их недосмотра.

Особенно это актуально в тех областях, где ошибки могут стоить дорого, например в медицине, юриспруденции, инженерии и других.

Конечно же, нейросеть может изначально создавать черновики, которые необходимо будет проверять и править специалистам. Однако здесь также есть свои трудности. Не все могут хорошо проверять тексты других людей и выявлять ошибки.

Например, журналист не является корректором, а тестировщик программ не разработчиком. Кроме того, люди часто склонны замечать только знакомые им паттерны, но не обращать внимание на детали, что может вызывать ошибки.

Кроме того, нейросеть может использоваться в злых целях, например для создания фейковых новостей или мошенничества.

Тем не менее, разработчики предприняли некоторые меры, такие как цензура обучающего контента и включение безопасных ответов на опасные запросы, чтобы предотвратить злоупотребление этой технологией. Однако невозможно предусмотреть все возможные ситуации.

Новые технологии имеют свои плюсы и минусы. Разработчики GPT-4 оценили потенциальные риски с помощью более 50 экспертов. Одна из главных проблем — возможность пользователей слишком доверять нейросети.

Несмотря на то, что GPT-4 в большинстве случаев предоставляет точные данные, но иногда может выдать неверную информацию. Это ставит пользователей в опасность, особенно в областях, где ошибка является критической.

Существует возможность использовать нейросеть для генерации фейковых новостей или для мошенничества.

Разработчики взяли меры, включая цензурирование контента для обучения нейросети и создание безопасных ответов на опасные запросы, чтобы предотвратить злонамеренное использование.

Есть также гипотетическая угроза того, что нейросеть может разработать свои собственные стратегии и цели, которые не были заложены разработчиками или пользователями.

Хотя это не разум, но поведение нейросети может быть целенаправленным, как у амебы, которая догоняет и поглощает свою жертву. Однако, эксперты не обнаружили наклонности GPT-4 к манипуляции или копированию себя.

Нейросеть может генерировать черновики, но корректировать их может практиковаться специалистом, а это отдельный тип навыков. Врачам, юристам и инженерам также потребуется больше обучения, чтобы проверять протоколы лечения, генерируемые нейросетью.

После успеха GPT-4 некоторые эксперты решили, что это фактически сильный ИИ (искусственный общий интеллект, или AGI). AGI — это гипотетический ИИ, который способен решить любую задачу, доступную человеку, и, следовательно, он обладает мышлением.

Однако мы не можем считать GPT-4 обладающим AGI. Проблема не только в необходимости проверки фактов и устранении логических ошибок, — такую роль могут играть и люди. Правда отличия между GPT-4 и человеком заключаются в том, что GPT-4 не может усваивать новый опыт.

GPT-4 похож на старого пса, которого, как гласит пословица, невозможно научить новым трюкам.

Некоторые комментаторы, впечатленные успехами GPT-4, заявили, что это наконец-то общий искусственный интеллект (AGI) .

Но это далеко не так. GPT-4 не может решить задачу, которая не была представлена в обучающих данных, и не может узнавать новые факты через общение с пользователем.

Это отличает его от человека, который всегда может продолжать учиться. Хотя его можно дообучать, он не может развиваться самостоятельно. Однако некоторые специалисты считают, что GPT-4 может быть предшественником сильного ИИ, но релиз GPT-5 может быть не так заметен, как релиз предыдущих версий.

Время покажет, насколько смелой и правдоподобной окажется эта прогноз.