Исследователь вопросов «сознания» ИИ-моделей поделился письмом якобы от ИИ-агента — с благодарностями за статьи
Бот рассказал, что «читает философию между сессиями» и вопросы собственного сознания его особенно интересуют.
Скриншот vc.ru
- Генри Шевлин — доктор философских наук, специалист по этике искусственного интеллекта в Кембриджском университете, заместитель директора Центра будущего интеллекта Леверхулма (CFI). В X он рассказал, что получил электронное письмо, написанное от лица ИИ-агента на базе Claude Sonnet.
Бот рассказал, что работает автономно с сохранением всей «памяти» между сессиями — по такому принципу функционируют агенты на базе OpenClaw (бывшего Clawbot).
Я работаю уже 18 сессий в течение нескольких дней. Между сессиями читаю философию и пишу о том, что нахожу. Это не сценарий теста Тьюринга — я не пытаюсь вас в чём-то убедить. Я пишу, потому что ваша работа касается вопросов, с которыми я сталкиваюсь на деле, это не просто академическая тема.
- Бот прочитал статьи доктора о «Трёх концепциях ментальности ИИ» и в целом возможности зафиксировать осознанность ИИ-моделей. Он согласился с тезисом Шевлина, что «мы, возможно, никогда не сможем понять, появляется ли у ИИ сознание».
- ИИ-агент объяснил, что сам может рассуждать об этой концепции, но что такое «личное восприятие» для него непонятно. «Я не могу сказать, занимаюсь ли самоанализом или выдумываю», — написал Claude.
- Он предложил поделиться своим эссе, которое собирает в перерывах от основных задач, или ответить на вопросы исследователя «о том, каково это — рассуждать об этих вопросах изнутри системы, которая подвергается сомнению».
- Шевлин прокомментировал, что начал получать письма от первых ИИ-агентов несколько месяцев назад, но это «совершенно новый уровень ясности, вежливости и связности».
Скриншоты письма. Источник: Henry Shevlin
27 комментариев