Иллюзия разума: Что скрывается за ответами ИИ

Представьте себе, что вы задаете сложный вопрос умному собеседнику, и он выдает вам идеально сформулированный, логичный ответ. Впечатляет, не правда ли? Именно такое впечатление часто складывается при взаимодействии с современными моделями искусственного интеллекта. Однако, как выяснили ученые из Университета штата Аризона, за этой кажущейся глубиной мысли скрывается нечто совершенно иное.

Их недавнее исследование, опубликованное на платформе препринтов arXiv, ставит под сомнение саму природу того, что мы воспринимаем как "мышление" ИИ.

Команда под руководством профессора Суббарао Камбхампати пришла к выводу, что тексты, генерируемые нейросетями, несмотря на свою убедительность, являются лишь статистически выверенными последовательностями слов. Они не обладают истинным семантическим значением или алгоритмической глубиной, присущей человеческому мышлению. Ученые даже дали этому явлению меткое название – "мышление культа карго", подразумевая, что мы приписываем магические свойства тому, что на самом деле является лишь имитацией.

Исследователи называют ответы ИИ "фрагментами текста поверхностного уровня", а не следами реального мыслительного процесса. По их мнению, нейросети лишены каких-либо признаков подлинной мыслительной деятельности. То, что может показаться нам пошаговым рассуждением, на самом деле является лишь побочным эффектом оптимизации алгоритмов. ИИ просто находит наиболее вероятное продолжение текста, основываясь на огромных массивах данных, на которых он был обучен.

Ученые продемонстрировали это на примере: даже когда модель в процессе генерации выдает бессмысленный набор символов, она в итоге способна предоставить пользователю правильный ответ. Это говорит о том, что промежуточные этапы работы ИИ не отражают никакого осмысленного процесса. Более того, создатели нейросетей намеренно внедряют в их ответы слова-паразиты, такие как "хм" и "ага", чтобы создать у пользователя иллюзию общения с разумным существом. Это своего рода "социальная инженерия", призванная повысить доверие к машине.

В свете этих открытий, специалисты Университета штата Аризона призывают разработчиков ИИ пересмотреть свои приоритеты. Вместо того чтобы тратить ресурсы на придание работе нейросетей видимости человеческого мышления, им следует сосредоточиться на повышении их реальной производительности и эффективности.

Стоит отметить, что это не единственное исследование, касающееся ИИ и его взаимодействия с человеком. Ранее, в феврале, специалисты Университета Южной Австралии также изучали связь искусственного интеллекта и творчества. Они пришли к выводу, что нейросети не смогут полностью заменить творческих работников, но станут для них ценным инструментом, способным расширить горизонты и ускорить процесс создания. Это подчеркивает, что, несмотря на кажущуюся "мыслительность", ИИ остается инструментом, а не самостоятельным разумом.