Предвзятость по умолчанию: как ИИ наследует человеческие ошибки

Рассказываем, почему ИИ не может быть нейтральным, как перекосы в данных приводят к системным ошибкам и почему масштабирование усиливает эти эффекты.

На первый взгляд вопрос этики искусственного интеллекта (ИИ) кажется достаточно простым: он должен быть безопасным, прозрачным, справедливым и не причинять вреда. На практике всё сложнее. Чтобы в этом разобраться, давайте посмотрим, чему и как мы пытаемся обучить ИИ.

Современные подходы к обучению ИИ объединяют опыт нескольких дисциплин: социологии, когнитивных наук, нейронаук и инженерии. Междисциплинарный подход помогает ИИ не просто классифицировать и прогнозировать, а работать в контексте: взаимодействовать с человеком, учитывать социальную среду, объяснять и убеждать. Рассказываем про четыре основных подхода, которых придерживаются ученые.

1. Обучение в контексте: социально-интуитивный ИИ. Этот подход исходит из идеи, что естественный интеллект непохож на набор жестких инструкций. Когда человек решает задачу, он действует гибко, пробует, меняет поведение в зависимости от результата. Поэтому ИИ предлагают учить не только правилам, но и ситуативной адаптации через взаимодействие с человеком и средой.

2. Теория разума (ТоМ): иллюзия понимающего собеседника. Второй подход предлагает развивать у ИИ то, что в психологии называют теорией разума: способность определять намерения, эмоции и внутренние состояния других людей. У человека это основа эмпатии и социального интеллекта. В исследованиях 2024 года у LLM находили признаки поведения, похожего на ToM.

3. Нейросоциальный подход: попытка воспроизвести обучение ребенка. Подход предлагает ориентироваться на врожденные механизмы социального познания: интуитивное и эмоциональное мышление, которые у человека проявляются еще до речи и рациональных объяснений. Здесь часто вспоминают зеркальные нейроны: они активируются одинаково, когда мы наблюдаем за поведением другого человека и копируем его. В раннем возрасте это играет большую роль в обучении ребенка, что вдохновляет использовать подход и для ИИ.

4. Социотехнический подход. При таком подходе исследователи, при разработке ИИ, учитывают, что тот встроен в глобальные социальные системы, влияет на культуру и принятие решений, в том числе в органах власти. Это накладывает определенные обязательства в части ответственного и безопасного внедрения технологий.

Современные подходы к развитию ИИ чаще сосредоточены на моделировании человеческого поведения и социального контекста. Но возникает вопрос:

Отсюда вытекают пять ключевых этических дилемм, которые усиливаются по мере того, насколько ИИ становится похож на нас.

1. Дилемма предвзятости. ИИ обучается на данных, созданных человеком. Если эти данные искажены или содержат предрассудки, то ИИ может не просто усвоить, но и усилить их. Такой перекос был обнаружен в системах по диагностике сердечно-сосудистых заболеваний (ССЗ). Модели, обученные преимущественно на данных мужчин, хуже предсказывают риск ССЗ у женщин.

Подобные перекосы можно даже увидеть без глубокого погружения в статистику, визуально. В 2023 году в Bloomberg опубликовали колонку по итогам исследования: модели Stable Diffusion, которая может генерировать изображения по промпту с помощью ИИ, дали задание сгенерировать более 5000 фото представителей разных социальных ролей: директоров, врачей, работников общепита, домохозяек.

Анализ показал, что в наборах изображений, созданных для высокооплачиваемых профессий, преобладали люди со светлым цветом кожи, в то время как чернокожие чаще создавались на основе таких запросов, как «работник фаст-фуда» и «социальный работник». Что касается гендерных моментов, то в большинстве профессий в наборе данных преобладали мужчины (в пропорции 3:1), за исключением низкооплачиваемых работ, таких как домработница и кассир.

В то же время в высокостатусных ролях в исследовании почти исчезали женщины: в обычной жизни позиции топ-менеджеров они занимают чаще. В том числе благодаря сознательной работе общества по выравниванию возможностей для талантов.

2. Дилемма прозрачности и объяснимости. Ее еще называют проблемой «черного ящика». Разработчики и пользователи не могут объяснить, как ИИ пришел к тому или иному выводу. В такой ситуации возникает вопрос:

3. Дилемма ответственности лежит на стыке технологии и права. Даже если модель работает точно и проходит проверки на перекосы, остается главное: ошибки все равно будут, и важно понимать, кто отвечает за последствия. Разработчик, который обучал модель, встроившая её в процесс компания, специалист, слепо принявший рекомендацию, или его руководитель. Ведь он утвердил регламент, где алгоритм стал фактически последней инстанцией.

Проблема в том, что в реальных системах ответственность размывается между участниками цепочки. Решения начинают выглядеть обезличенными и само собой разумеющимися. Поэтому так важно следить, чтобы в критически важных сферах финальное решение оставалось за человеком. Он понимает контекст, способен сомневаться, может объяснить свой выбор.

4. Дилемма иллюзии понимания. ИИ может предоставлять логически выверенные, структурированные и персонализированные ответы. Это такой стиль подачи, при котором мы склонны доверять информации. С каждым новым поколением доводы нейросетей выглядят всё более убедительно, поэтому люди всё менее склонны проверять данные. Описан случай, когда чат-бот порекомендовал человеку заменить поваренную соль ядовитым бромидом. Доверившить нейросети, человек получил сильное отравление и попал в больницу.

В научной литературе встречались кейсы, когда в статьях ChatGPT пытались указать как соавтора. Редакции журналов ответом на это выпустили официальный запрет на указание ИИ как соавтора.

Многим сегодня проще обсудить чувствительный вопрос с нейросетью, чем с живым специалистом, что ставит перед нами дополнительные вопросы. Согласно исследованию, 55% американцев в возрасте от 18 до 29 лет чувствуют себя наиболее комфортно, обсуждая проблемы психического здоровья с конфиденциальным чат-ботом на основе ИИ, чем с человеком.

Проблема этики ИИ действительно глубже, чем кажется. Люди создали множество этических систем. Но наша этика не совершенна: она полна предрассудков, противоречий и субъективности.