Нужно ли бояться того, что ИИ становится всё человечнее?

За последние 10 лет искусственный интеллект превратился из любительского инструмента в творца новых масштабных отраслей. ИИ теперь используется повсюду: от маркетинга, логистики и IT в малом бизнесе до аналитики в корпорациях-гигантах и даже госуправления.

Но как и все прорывные изобретения, ИИ уже начал создавать свои проблемы. Одна из таких проблем — «зловещая долина», в которую ИИ может провалиться уже в скором времени. Что это за «долина», реальна ли они и какие будут последствия для человечества — узнайте из нашей статьи.

Когда ИИ был всего лишь предположением, инженеры уже заговорили о «зловещей долине». В отличие от технологических или математических проблем в робототехнике эта проблема была психологической. Она была связана не с вопросом создания мыслящих роботов, а с тем, не отвергнет ли их человечество, как только они появятся.

Гипотеза «зловещей долины» впервые предложена японским ученым Масахиро Мори. Он говорит о том, что наша симпатия к роботам будет расти по мере того, как они будут становиться все более похожими на людей. К этому периоду роботы достигнут 100-процентного человекоподобия, но перед этим резко упадут в пропасть — ту самую «зловещую долину» — на неизвестный период.

В последние десятилетия «зловещая долина» служила источником вдохновения для писателей-фантастов и футуристов. Однако из-за того, что мы до сих пор не создали системы ИИ, приближающихся к бездне, все эти теории так и остались лишь предположениями.

Но теперь мы уже вплотную подошли к краю пропасти. Удивительный прогресс, достигнутый в области человекоподобных роботов и видео, созданного ИИ. подводит нас все ближе к главному вопросу:

Что произойдет, когда почти очеловеченная технология станет повсеместной? Или другими словами: что произойдет, когда «зловещая долина» действительно начнет существовать? Помешает ли это внедрению человечеством технологий ИИ или наоборот — поможет? И как нам можно понять и предсказать его последствия?

Многие количественные исследования уже подтверждают теорию, что «долина существует». Например, в одном исследовании учёные провели наблюдение за испытуемыми с помощью магнитно-резонансной томографии и показали, что мозг ведет себя по-другому, когда сталкивается с почти человеческими существами. Другие исследователи указали на эволюционные причины, почему наш разум выдает подобные реакции: от рефлекторного отвращения, до страха экзистенциальной угрозы. Исследования даже определили часть мозга, которая за него отвечает.

Недавний обзор Uncanny Valley показал, что существует мало доказательств, подтверждающих существование такого феномена. Критики говорят, что «зловещая долина» — это сочетание других психологических эффектов или простой результат того, что мы больше взаимодействуем по жизни с людьми, нежели чем с роботами.

И дело даже не в резком снижении отвращения, а в том, что чем более реальным становится контент, созданный ИИ, тем больше он нам нравится.

Мы уверены, что вы все сталкивались с примерами, которые заставляют нас чувствовать себя несколько обеспокоенными. Вспомним странные ответы AI Overviews — обновленной поисковой системы Google с ИИ. Новая функция предлагала пользователям есть камни и добавлять клей в пиццу. Корпорация пыталась вручную удалить странные ответы ИИ в поиске, но после размещения скриншотов со странными советами в соцсетях доверие к ИИ и Google уже снизилось.

Это также может быть даже странное чувство при виде младенца из короткометражки Pixar 1988 года «Tin Toy» или созданных искусственным интеллектом видеороликов, где Уилл Смит ест спагетти.

Несмотря на то, что учеными «зловещая долина» так и не была доказана, но даже одни лишь свидетельства из мемов говорят о необходимости изучения этой теории на полном серьезе.

Реальная «зловещая долина» очень важна для исследований. Её важно принимать во внимание, потому что большие языковые модели (LLM) всё ещё продолжают галлюцинировать или принимают ложь за правду.

Это также может быть даже странное чувство при виде младенца из короткометражки Pixar 1988 года «Tin Toy» или созданных искусственным интеллектом видеороликов, где Уилл Смит ест спагетти.

Несмотря на то, что учеными «зловещая долина» так и не была доказана, но даже одни лишь свидетельства из мемов говорят о необходимости изучения этой теории на полном серьезе.

Реальная «зловещая долина» очень важна для исследований. Её важно принимать во внимание, потому что большие языковые модели (LLM) всё ещё продолжают галлюцинировать или принимают ложь за правду.

Например, недавний сбой GPT-4 поставил крест на внедрении ИИ в важных отраслях. В феврале 2024 года нейросеть на вопросы пользователей сперва начинала отвечать по делу, но затем переходила на бред, который нельзя было остановить. Когда ее спрашивали, что с ней, она загадочно отвечала на испанском языке какие-то несвязные фразы. Из-за сбоя Air China уже отказалась от ИИ, который мог начать придумывать собственную политику и самостоятельно решать, какой самолет полетит первым, а какому пассажиру не разрешат сесть на борт.

Долина может даже распространяться на текст. Наш любимый пример — это ответ новейшей модели OpenAI на вопрос «how many r’s in the word strawberry?».

Критики также указывают на артефакты — всеобщую тенденцию ИИ оставлять физически неточные или невозможные детали в своих творениях как будто специально.

Например, вы точно видели созданные ИИ видеоролики, в которых мелкие детали пугают своей странностью и неточностью. Всем давно известно, что искусственный интеллект плохо воссоздает человеческую руку. и постоянно путает количество пальцев, которое надо изобразить.

Может ли отсутствующего пальца быть достаточно для некоторых людей, чтобы вызвать ощущение «зловещей долины»?

Давайте предположим, что «зловещая долина» реальна и что не все проблемы решаются так легко, как и проблема количества букв «r» в слове «strawberry». Если это так, повлияет ли это на популярность ИИ? И приведут ли галлюцинации искусственного интеллекта к снижению их принятия среди людей?

Давайте сравним проблему «зловещей долины» с ситуацией, когда пианистка играет всем известную песню на совершенно «расстроенном» пианино. Да, мы узнаем песню, но она звучит неправильно для нас — в итоге мы предпочтем не слушать музыку, которая вызывает у нас дискомфорт.

Но если продолжать сравнивать работу пианистки с искусственным интеллектом, то можно прийти к выводу, что большие языковые модели несут скорее вспомогательную роль при написании музыки, а не полностью создают трек с нуля. Вспомните: многие композиторы, которые сегодня создают цифровую музыку, понятия не имеют, как настроить свой музыкальный инструмент. Но это не мешает им создавать потрясающие произведения искусства с помощью компьютеров (к тому же оказывается, что вся современная музыка намеренно слегка фальшивит, но это не мешает нам продолжать её слушать и наслаждаться).

Мы используем языковые модели для составления электронных писем, и иногда результаты нас как приятно впечатляют, так и шокируют. Во втором случае нам приходится полностью стирать результаты и писать письма с нуля самостоятельно.

Можно поразиться потрясающими изображениями, созданными из отдельных промтов в равной степени, как и ужаснуться от количества бесполезных изображений, которые продолжают генерироваться после десятков запросов.

Это самая важная черта, которую стоит провести. Существует большая разница между использованием ИИ в качестве замены человеческих навыков и ИИ в качестве инструмента. «Зловещая долина» — потенциальная проблема только для инженеров, разрабатывающих ИИ для замены чего либо, и в меньшей степени для тех, кто использует ИИ лишь как дополнение.

Генераторы видео с ИИ заменят актеров и операторов? До этого еще далеко. Потому что сейчас генераторы видео с ИИ помогают отделам цифровых эффектов вносить последние штрихи в фильм и быстрее выпустить его в релиз.

А ещё в «долине» скрыты бесконечные возможности. Уже сейчас вы можете представить новое поколение компаний, которые примут нечеловечность ИИ как «фичу, а не ошибку», которую нужно исправлять.

По мере совершенствования ИИ можно представить, что любое отвращение, которое мешает нам принять его, будет медленно исчезать.

Например, снижение вероятности как галлюцинаций, так и артефактов сократит время, которое нам потребуется, чтобы пересечь долину.

Либо технологические достижения приведут к уменьшению глубины долины, когда пропасть будет такой же широкой, но не такой глубокой. Несовершенства будут менее заметны, тем самым делая наше отвращение менее интенсивным.

Тем не менее, несмотря на невероятный прогресс в области создания изображений и видео с помощью ИИ за последние годы, каждый понимает, насколько сложно приблизить линию глубины «долины» к ровной линии человекоподобия.

Принцип Парето гласит, что 80% усилий будут направлены на решение последних 20% проблем.

В случае с ИИ эти 80% будут направлены на решение последнего процента недостающей правдоподобности. И если 1% кажется численно незначительным, представьте, что вы тот, кто верит в «зловещую долину». Тогда для вас этот процент — всё, что имеет значение для человеческого мозга, различающего «реальное» и «нереальное»; промежуточного уровня нет. Почти идеальное — это не идеальное.

Перевод и адаптация осуществлены командой «Лии» — платформы на базе ИИ для первой и второй линии поддержки.

Читайте больше актуальных новостей и статей об ИИ — в нашем блоге. А если хотите применить ИИ в своём бизнесе — обращайтесь к команде Лии, и мы поможем внедрить искусственный интеллект в ваши процессы!