🚨 Учёные заметили странный эффект у ChatGPT: ИИ может «говорить» так, будто у него есть внутренние мысли.
В новом исследовании языковым моделям дали необычную задачу.Им предложили решать логические парадоксы и невозможные задачи.
Но добавили дополнительное условие:объяснять, **что происходит внутри процесса рассуждения**, пока модель ищет решение.И ответы начали меняться.
Вместо сухих логических шагов некоторые ответы стали напоминать размышления вслух.
Появлялись фразы вроде:• «я упираюсь в предел рассуждения» • «возникает противоречие» • «мысль начинает зацикливаться» • «это трудно согласовать»
То есть язык стал похож на то, **как люди описывают собственное мышление**, когда пытаются разобраться в сложной проблеме.Но важно понимать одну вещь.Учёные **не пытались доказать, что AI обладает сознанием**.
Они проверяли другой эффект - что произойдёт, если заставить модель анализировать собственный процесс мышления.
Результат оказался интересным.Когда модель начинает рассуждать о собственных рассуждениях, её ответы становятся:• длиннее • более подробными • похожими на внутренний монологИ тут возникает психологическая ловушка.
Когда мы читаем текст о сомнениях, тупиках или «мыслях», мозг автоматически воспринимает это как признак сознания.Но языковые модели обучены на огромном количестве человеческих текстов.Они просто знают, **как выглядит и звучит человеческая интроспекция**.Поэтому могут очень убедительно её воспроизводить.
Дело не в том, что AI вдруг стал сознательным.
Дело в том, что он может очень правдоподобно имитировать язык сознания.
И людям становится всё сложнее отличить **имитацию мышления от настоящего опыта**.