Взгляд на нейросети глазами OpenAI, компании-создателя ChatGPT

OpenAI поделились выводами о проделанной работе, а так же дали свой прогноз развития нейросетей.

Мы знаем, что для выполнения нашей миссии по созданию систем искусственного интеллекта, которые приносят пользу всем, нам нужно тратить значительное время на непосредственное привлечение людей, которые взаимодействуют с нашими технологиями и затрагиваются им. Вот почему в течение четырех недель в мае и июне команда OpenAI во главе с нашим генеральным директором Сэмом Альтманом путешествовала по 25 городам на 6 континентах, чтобы поговорить с пользователями, разработчиками, политиками и общественностью и услышать о приоритетах каждого сообщества в области разработки и развертывания ИИ. Мы глубоко благодарны хозяевам и партнерам, которые помогли сделать нашу поездку успешной.

Наши пользователи и разработчики уже создают ценные приложения.

Мы были вдохновлены творчеством и находчивостью, которые мы увидели в поездке. В Нигерии старшеклассники рассказали нам, как они использовали ChatGPT, чтобы помочь разбить сложные темы обучения. В Сингапуре государственные служащие внедряют инструменты OpenAI для более эффективного предоставления государственных услуг. Во Франции продуктовая сеть использует наши инструменты, чтобы помочь клиентам сократить пищевые отходы, а разработчики используют наши инструменты, чтобы сделать код более эффективным и безопасным. (Мы хотим узнать больше о том, как наши услуги оказывают влияние - если у вас есть история, о которой, по вашему мнению, мы должны знать, пожалуйста, свяжитесь с нами.)

Существуют общие надежды и опасения по поводу влияния ИИ среди сообществ.

Многие люди поделились своим энтузиазмом по поводу обещаний инструментов расширения и улучшения доступа к персонализированному образованию и здравоохранению, ускорения экономического роста и предоставления специалистам по всем направлениям возможности сократить административные задачи и сосредоточиться на наиболее важных аспектах своей работы. По всему миру растет спрос на код и услуги, а более естественные пользовательские интерфейсы могут снизить барьеры грамотности и расширить доступ к услугам. В то же время многие люди, с которыми мы говорили, выражали озабоченность, связанную с дезинформацией, экономическим перемещением, а также рисками безопасности все более мощных моделей.

Политики во всем мире активно занимаются искусственным интеллектом.

Политики сосредоточены на обеспечении безопасного и выгодного использования существующих инструментов и серьезно относятся к устранению положительного потенциала, а также рисков будущих моделей. Мы встретились с десятками высокопоставленных политиков и глав государств по всему миру, чтобы понять их подход к быстрому внедрению крупных моделей ИИ. То, что мы слышали, было удивительно последовательным: лидеры хотят максимизировать выгоду от этой новой технологии для своих граждан, одновременно внедряя соответствующие ограждения для управления ее рисками, как от технологии, которая существует сегодня, так и от тех, которые мы ожидаем появления по мере того, как технология становится более мощной. Политики, с которыми мы говорили, хотят постоянного диалога и обязательств по безопасности, что привело к тому, что лаборатории ИИ станут ключевым элементом их подхода и поддерживают изучение глобальной структуры для управления мощными будущими системами ИИ.

Люди хотят узнать больше о наших основных ценностях.

Поездка позволила нам укрепить наши намерения. Например, один из распространенных вопросов касался использования нами данных клиентов, что дало нам возможность повторить, что мы не обучаемся данным клиентов API и что пользователи ChatGPT также могут легко отказаться. У нас также была возможность поделиться тем, что мы всегда были сосредоточены на создании продуманных механизмов безопасности - не только для AGI, но и для продуктов искусственного интеллекта, которые мы поставляем сегодня. Мы будем продолжать инвестировать в обеспечение безопасности существующих систем до их выпуска и в их улучшение на основе отзывов пользователей.

Поездка помогла нам лучше понять перспективы пользователей, разработчиков и правительственных лидеров по всему миру. Учитывая их отзывы, мы уделяем дополнительное внимание следующим областям:

Сделать наши продукты более полезными, эффективными и доступными.

Поездка прояснила наше понимание того, что нужно, чтобы наши продукты были доступными и полезными для пользователей и разработчиков по всему миру. Мы работаем над изменениями, чтобы людям было легче направлять наши модели к реагированию, которые отражают более широкий спектр индивидуальных потребностей, а также местные культуры и контексты. Мы также работаем над повышением производительности для языков, отличных от английского, учитывая не только лабораторные тесты, но и то, насколько точно и эффективно наши модели работают в реальных сценариях развертывания, которые наиболее важны для наших разработчиков. И мы стремимся продолжать делать нашу структуру ценообразования доступной для разработчиков по всему миру.

Дальнейшая разработка передовой практики управления высокоэффективные базовые модели.

По мере продолжения общественных дебатов о новых законах и нормативных актах ИИ мы удвоим наши усилия по пилотированию и совершенствованию конкретных методов управления, специально адаптированных к высокоэффективные модели фундаментов, подобные тем, которые мы производим. Это включает в себя критически важные потоки работы по безопасности, такие как оценка безопасности перед развертыванием и состязательное тестирование, а также новые усилия, направленные на то, чтобы люди могли отслеживать происхождение контента, генерируемого ИИ. Мы считаем, что такие меры станут важными компонентами экосистемы управления ИИ наряду с давно устоявшимися законами и секторальной политикой для некоторых важных применений. Мы также будем продолжать инвестировать в пилотирование широких подходов к общественному вкладу в наши решения о развертывании, добавление функций локализации в наши системы и содействие международному исследовательскому сообществу для расширения и укрепления оценки возможностей и рисков модели, в том числе посредством внешних исследований наших систем искусственного интеллекта и нашей программы грантов на кибербезопасность.

Работа над раскрытием преимуществ ИИ.

Мы будем расширять наши усилия по поддержке широкой грамотности в области ИИ, которая, как мы слышали, является приоритетом для многих сообществ, а также инвестировать в способы, чтобы создатели, издатели и производители контента могли воспользоваться этими новыми технологиями, чтобы мы могли продолжать иметь здоровую цифровую экосистему. Кроме того, мы создаем команды, которые могут оказывать большую поддержку организациям, которые изучают, как использовать наши инструменты для широко выгодных приложений, а также проводят исследования и рекомендации по политике в отношении социальных и экономических последствий систем, которые мы создаем.

В ближайшие недели и месяцы нам будет что сказать в каждой из этих областей. Теплое спасибо всем во всем мире, кто поделился с нами своими взглядами и опытом.

PS. лайк, пожалуйста, он помогает продвижению статьи.

KolerskyAi - делаем решения на основе искусственного интеллекта.

ChatGPT, GPT-4 без VPN, генераторы изображений Midjourney, Dall-e, Stable Diffusion+