Вячеслав
AI

Мораль и этика искусственного интеллекта

Все известные топовые модели ИИ имеют свои “заповеди” и этические ограничения, которые не позволяют выдавать пользователям нежелательные или аморальные результаты.

То есть добиться от ИИ описать или нарисовать сцену насилия, получится навряд ли. Но существуют случаи, когда системы безопасности ИИ дают сбои или пользователи сами обходят защиту при помощи разных хитростей.

Сейчас ещё не существует общепринятой и идеальной системы “морали” ИИ.

Но есть пара методов регулировать поведение:

1. «RL from AI Feedback» (RLAIF)

  • ИИ сталкивается с проблемой или аморальным запросом
  • Анализирует ситуацию и причины проблемности запроса исходя из встроенных правил и “конституции”
  • Корректирует свои следующие действия, на основе выводов

Этот метод напоминает мыслительный процесс, а не просто холодные вычисления.

2. Обучением с помощью человека (RLHF)

Реакции ИИ классифицируются как «хорошие» или «плохие» большими группами людей-оценщиков.

  • Модель ИИ выдает результаты
  • Рецензенты оценивают и исправляют эти результаты на основе конкретных рекомендаций
  • Модель учится на основе обратной связи от людей

Ребекка Джонсон - исследователь этики ИИ в Сиднейском университете, отметила: "Инженеры и ученые хотят найти окончательные решения проблемы морали ИИ, но не всегда учитывают сложность человеческой природы."

«Мы должны начать относиться к ИИ как к продолжению человека, это просто еще один аспект человечества»