ChatGPT, пытается читать мысли человека по МРТ

Уинстон Смит подумал про себя: «Долой Большого Брата» — после чего он был арестован и казнён.
«1984» Дж. Оруэлл

Исследователям впервые удалось использовать GPT1, предшественника чат-бота с искусственным интеллектом ChatGPT, для перевода изображений МРТ в текст в попытке понять, о чём думает человек. Это недавний прорыв позволил исследователям из Техасского университета в Остине «читать» мысли человека в виде непрерывного потока текста, основанного на том, что он слушает, воображает или смотрит.

Это вызывает серьезные опасения по поводу неприкосновенности частной жизни, свободы мысли и даже свободы беспрепятственно мечтать. Наши законы не приспособлены для борьбы с широко распространенным коммерческим использованием технологии чтения мыслей — закон о свободе слова не распространяется на защиту наших мыслей.

Участников техасского исследования попросили слушать аудиокниги в течение 16 часов, находясь в магнитно-резонансном томографе. В то же время компьютер «учился» связывать активность их мозга, полученную по данным МРТ, с тем, что они слушали. После обучения дешифратор мог генерировать текст из мыслей человека, когда он слушал новую историю или представлял свою собственную. По словам исследователей, процесс был трудоемким, и компьютер смог уловить лишь суть того, о чем человек думает. Тем не менее, полученные результаты представляют собой значительный прорыв в области интерфейсов мозг-машина, которые до сих пор зависели от инвазивных медицинских имплантатов. Предыдущие неинвазивные устройства могли расшифровать лишь несколько слов или изображений.

Вот пример того, что слушал один из испытуемых (из аудиокниги):

Я встал с надувного матраса и прижался лицом к стеклу окна спальни, ожидая увидеть глаза, смотрящие на меня, но вместо этого обнаружил только темноту.

А вот что компьютер «прочитал» из мозговой активности испытуемого:

Я просто продолжал подходить к окну и открывать стекло, я встал на цыпочки и выглянул наружу. Я ничего не увидел. И снова посмотрел вверх. Я ничего не увидел.

Участники исследования должны были сотрудничать как для обучения, так и для применения дешифратора, чтобы сохранить конфиденциальность их мыслей. Однако исследователи предупреждают, что «будущие разработки могут позволить декодерам обойти эти требования». Другими словами, технология чтения мыслей однажды может быть применена к людям против их воли. Будущие исследования могут также ускорить процесс обучения и декодирования. Хотя в текущей версии на обучение машины чтению мыслей человека ушло 16 часов, в будущих обновлениях этот показатель значительно снизится. И, как мы видели на примере других приложений искусственного интеллекта, декодер также, вероятно, со временем станет более точным. Есть ещё одна причина, по которой это представляет собой новый этап. Исследователи уже несколько десятилетий работают над интерфейсами мозг-машина, пытаясь создать технологии чтения мыслей, способные воспринимать мысли человека и преобразовывать их в текст или изображения. Но обычно эти исследования были сосредоточены на медицинских имплантатах, с акцентом на то, чтобы помочь инвалидам высказывать свои мысли.

Исследователи из Оксфордского университета выступают за юридическое право на психическую неприкосновенность, которое они описывают как:

Право против значительного, неконсенсуального (несогласованного) вмешательства в сознание человека.

Другие начинают отстаивать новое право человека на свободу мысли. Это право выходит за рамки традиционных определений свободы слова и защищает нашу способность размышлять, удивляться и мечтать.Мир без регулирования может очень быстро превратиться в антиутопию. Представьте себе, что начальник, учитель или государственный чиновник может вторгаться в ваши личные мысли — или, что еще хуже, может изменять их и манипулировать ими.Мы уже видим, как технологии сканирования глаз внедряются в классах для отслеживания движения глаз учеников во время уроков, чтобы определить, уделяют ли они внимание [занятиям]. Что произойдет, когда следующими станут технологии чтения мыслей?Аналогичным образом, что произойдет на рабочем месте, когда сотрудникам больше не будет позволено думать об обеде или о чем-либо помимо работы? Уровень жёстокого контроля над работниками может превзойти всё, что можно было представить ранее.Джордж Оруэлл убедительно писал об опасностях "мыслепреступлений", когда государство объявляет преступлением просто мятежные мысли об авторитарном режиме. Однако сюжет «1984» был основан на том, что государственные чиновники читали язык тела, дневники или другие внешние признаки того, о чём кто-то думал.

Использованные источники:

Первоисточник

Источник перевода