Этичное использование технологий: как мир пытается приручить ИИ

Ааааа, нейросети лишат всех работы! Или просто поработят? Разбираемся, что делают учёные и техногиганты, чтобы этого не произошло.

Всё больше стран считает искусственный интеллект серьёзной опасностью. Например, в Италии запретили использовать ChatGPT. А в России разрабатывают закон об искусственном интеллекте и предлагают маркировать контент, созданный нейросетями.

Разбираемся, почему мировая общественность ополчилась на ИИ и как лучшие умы мира пытаются управлять нейросетями (пока они не начали управлять всем остальным).

Сотрудников заменяют искусственным интеллектом. До России проблема пока не дошла, но тенденция уже появилась на Западе.

Например, IBM собирается приостановить наём на некоторые должности — пострадают HR и бэк-офис. CEO компании заявил, что 30% сотрудников этих отделов можно заменить ИИ в ближайшие пять лет. Если компания действительно будет проводить такую политику, 7 800 человек лишатся работы.

При этом уже есть примеры, когда нейросети не смогли заменить сотрудников и откровенно навредили. В феврале 2023 года в журнале Men's Journal опубликовали статью о низком уровне тестостерона у мужчин — её написала нейросеть. Эксперты журнала Futurism нашли в ней 18 фактических ошибок, которые потенциально опасны для читателей.

Другой случай тоже произошёл в США. Девушка по имени Аманда Клейпул попыталась устроиться на работу в пять разных сетей фастфуда — в четырёх из них ей пришлось общаться с ботами-эйчарами. Это не ускорило наём, а, наоборот, усложнило.

Например, чат-бот «Макдональдса» не смог назначить собеседование, а ещё в двух сетях ИИ не предупредил менеджеров о встрече с потенциальным сотрудником. В итоге Аманда устроилась в кафе, где собеседование проводил реальный человек.

С помощью ИИ можно генерировать фейки. Вспомните хотя бы вирусную фотографию Папы Римского в пуховике Balenciaga или кадры «задержания» Дональда Трампа. Нейросети становятся более продвинутыми, поэтому отличить фейковое изображение от реального становится всё сложнее.

ИИ нарушает авторское право. Нейросети учатся на текстах из СМИ и фотобанках изображений. Они не могут создавать оригинальный продукт — только повторять в разных комбинациях то, что им уже известно. Поэтому вопрос, кому принадлежит сгенерированный контент, остаётся спорным.

В январе 2023 года трое художников подали в суд на создателей нейронных сетей Midjourney и Stable Diffusion. Они считают, что компании просто взяли 5 млн изображений из интернета «без ведома и согласия художников», чтобы тренировать свои модели.

Непонятно, как разработчики ИИ распоряжаются персональными данными пользователей. Из-за этого Amazon запретил сотрудникам использовать нейросети для работы. Случилось это после того, как специалисты компании заметили, что некоторые ответы ChatGPT имитировали внутренние данные Amazon.

В марте 2023 года организация Future of Life опубликовала письмо, в котором призвала остановить развитие искусственного интеллекта и хотя бы полгода не обучать более мощные модели, чем GPT-4. Под текстом подписались даже Илон Маск и соучредитель Apple Стив Возняк.

Письмо раскритиковали специалисты по этике ИИ (да, такие уже существуют). Группа исследователей считает, что Future of Life уделяет слишком много внимания проблемам, которые может принести искусственный интеллект в будущем. Но совсем игнорирует тот факт, что он вредит уже сегодня. Одна из проблем, которую они приводят в пример, — массовая кража авторского контента для обучения нейросетей.

Затем вспыхнул новый скандал. Журналисты Business Insider разузнали, что Маск создаёт собственную нейросеть. Илон купил 10 тысяч графических процессоров, переманил к себе сотрудника ИИ-лаборатории Google, а затем зарегистрировал компанию X.AI. Хотя с момента выхода письма не прошло и месяца.

Кажется, чтобы мир научился этично использовать искусственный интеллект, ведущие компании-разработчики должны объединиться. И первые шаги в этом направлении уже есть. Например, в июне 2023 года создатель OpenAI подтвердил, что поставил на паузу разработку новой генеративной модели GPT-5. Компания пошла на этот шаг, чтобы снизить тревожность из-за мощностей искусственного интеллекта.

В мае 2023 года в блоге компании появилась статья, в которой говорят, что скоро ИИ станет гораздо мощнее, поэтому его нужно регулировать — и начать стоит прямо сейчас.

Вот что предлагает OpenAI:

Ещё компания разыгрывает десять грантов по $100 000 на разработку правил для искусственного интеллекта. Сбор заявок закончился 24 июня 2023 года, о результатах публично расскажут 20 октября 2023 года.

14 июня 2023 года депутаты Европарламента приняли закон, который:

За нарушение этих правил грозит штраф до €10 000 000.

У исследователей уже есть критерии оценки, которые они используют при разработке искусственного интеллекта. Например, модель не должна выдавать ложных заявлений или копировать контент, защищённый авторским правом.

Но осечки всё равно случаются — вспомним хотя бы, как нейросети начинают придумывать несуществующие факты. И такое случается не только у ChatGPT. Это общий баг разных моделей.

Google DeepMind предлагает своим разработчикам использовать специальный алгоритм по оценке рисков.

Он сможет определять:

Похожие меры безопасности применяет и Microsoft. В компании есть корпоративный стандарт, которому должны следовать ИИ-разработчики. Правда, что именно написано в правилах, компания не раскрывает.

Пока неясно, поможет ли это выявлять рискованные модели. Но уже сейчас понятно, что компании всерьёз озаботились этим вопросом.

А как вы считаете, нужно ли регулировать темпы развития искусственного интеллекта?