ИИ и человеческий фактор
Взяла на разбор сегодня статью про развитие ИИ и связанные с ним риски (не опять, а снова). Там собрано десять разных экспертных мнений (экспертное мнение — в первую очередь мнение, а не доказательство чего бы то ни было, помните?).
Итак, первый вопрос: “Какие риски, по-вашему, связаны с развитием ИИ?”
Ответы:
- “Если ИИ несёт в себе риск уничтожения человечества, мы могли бы его снизить следующим образом…”
- “Мы главный риск, а не ИИ”.
- “Развитие ИИ в последние годы привело… бла-бла-бла… разработчики не думают о рисках, потому что зарабатывают на ИИ… бла-бла… вижу следующие категории рисков”.
- “Я не верю, что ИИ способен превзойти человека”.
- “Меня гораздо больше беспокоит то, что люди слишком рано ждут развития ИИ…”
Сколько нужно докторов наук, чтобы прочитать вопрос?
Статья называется “Managing the risks of artificial general intelligence: A human factors and ergonomics perspective” (“Управляем рисками “сильного” ИИ: человеческий фактор и эргономика”). Вот вам и человеческий фактор с первых же строк.
С самим “сильным ИИ” тоже проблемка: его в статье не определили.
Точнее, определили, но все по-своему: кто как “ИИ, который может выполнять задачи, для выполнения которых его не обучали”; кто как “воспроизведённый искусственно человеческий интеллект”; кто как “интеллект, превосходящий человеческий”.
Однако же вот что в этой статье интересно. “Человеческий фактор и эргономика” (Human Factors and Ergonomics, HFE) — это дисциплина, которая изучает, как люди работу работают: как общаются друг с другом, как и какие используют инструменты, как на них влияет рабочее окружение и так далее.
Эргономика в чистом виде — это наука об организации рабочего места: где лучше поставить стул, какую температуру нужно поддерживать в помещении и прочее подобное.
Человеческий фактор и эргономика учитывает ещё то, что люди устают и оттого ошибаются; что если им дать 500 задач, они будут нервничать и ничего не будут делать и всё в этом духе.
В этой статье десять человек, которые профессионально изучают человеческий фактор и эргономику, рассуждают о том, как человек будет работать в команде с очень умным ИИ.
- Его нужно будет обучать так же, как людей?
- А может, он будет настолько непохож на людей, что никакие существующие подходы с ним не сработают? (тут обсуждали похожее, кстати)
- А если ИИ сам себе будет создавать интерфейс — то есть, определять, как он взаимодействует со внешним миром, — люди с ним вообще смогут общаться?
- Как ИИ и человек смогут понимать, кто что знает и кто за что отвечает?
Проблема, говорят эксперты, в том, что разработчики ИИ не задумываются об эргономике и человеческом факторе. Они задумываются о том, чтобы их детище работало быстрее, требовало меньше электричества и получало высокие баллы в тестах.
Те, кто изучает работающий ИИ, и те, кто изучает работающих людей, публикуются в разных журналах, ходят на разные конференции и не общаются. Если мы, говорят эксперты, хотим счастливого будущего, в котором люди комфортно работают с ИИ, надо начать общаться.
Если все мысли этих экспертов сложить воедино, получается примерно следующее:
- Чтобы развитие ИИ несло людям пользу, нужно в разработке учитывать человеческие способности и ограничения, а не только бесконечно оптимизировать модели.
- Для этого помимо специалистов по обучению ИИ в разработке должны участвовать ещё многие другие специалисты, которые изучают человеческое поведение.
- При этом исследования людей сейчас продвигаются медленнее, чем разработка ИИ. Люди сложные, надо проводить много экспериментов, потом на их основе выводить общие правила — на это могут уходить годы.
- Часто “полезное для людей” и “самое прибыльное” — противоположные вещи. Компании-разработчики хотят прибыльное, и всем остальным приходится за ними бегать и требовать, чтобы они сделали полезное. Или хотя бы перестали делать вредное. Сложно.
- Наконец, иногда люди, которые хотят полезного, не совсем правильно оценивают способности ИИ. Отсюда вырастают необоснованные страхи, а усилия прикладываются не туда, куда должны бы прикладываться.
Если всё это ещё сократить, можно сказать, что перед нами следующая глобальная проблема: все хотят чего-то полезного (в собственном представлении), но сидят по разным комнатам и друг с другом не сверяются.
Есть большие конференции вроде FAccT, куда собираются специалисты из области компьютерных наук, юристы, социологи и другие специалисты из разных областей. Выглядит перспективно. Выглядит как возможность обменяться опытом, наконец.
Однако когда я искала такие площадки, наткнулась на пару неприятных исследований о том, что на деле всё не так красиво, как в программах конференций. Мы непременно поговорим об этом, но в отдельном посте.