Сверхразум от Цукерберга уже рядом.

Этот пост - моя рефлексия на визионерский пост Марка Цукерберга о будущем персонального суперинтеллекта.

Есть забавная мысль, которая меня не отпускает. Что если весь путь от каменного топора до GPT был не эволюцией, а просто... побочным эффектом желания не делать всё самому?

Сначала мы изобрели колесо. Потом — интернет. Теперь — персональный ИИ, для чего? Чтобы он напоминал нам: «Хватит писать в заметки. Просто сделай уже что-нибудь» Прогресс, чёрт возьми.

За последние месяцы случилось странное. ИИ начал улучшать сам себя. Не сильно. Но достаточно, чтобы начать чесать затылок и нервно смеяться.

Нам больше не нужно спрашивать: «Когда будет суперразум?» Скорее: «Что он сделает первым, когда поймёт, что нас нельзя спасти?»

Meta говорит:

«Мы строим персонального сверхразумного помощника. Он будет помогать людям становиться лучше. Он будет рядом. Он будет с тобой.»

Ок. Звучит мило. Как тамагочи.

Только он знает, что ты дрочишь по вторникам, боишься одиночества и врёшь себе, что «в понедельник точно начнешь заниматься спортом».

Но шутки в сторону.

Если это сработает, если у нас действительно будет ИИ, который понимает нас, помогает нам, усиливает наши амбиции, сглаживает слабости и подсвечивает слепые зоны — то мы, возможно, впервые будем по-настоящему вооружены против самих себя.

Не от мира. От собственной инерции.

Проблема в другом.

ИИ как феномен — рефлексивный. Он становится тем, что от него ждут.

У тебя ассистент-художник — он начинает видеть везде краски. У тебя ассистент-продавец — он будет подсказывать, как оптимизировать воронку продаж.

ИИ будет не «умным», а кривым зеркалом твоих задач и травм.

И Meta, конечно, скажет:

«Мы даём вам свободу. Мы не строим бога, мы строим слугу.»

Но мы уже видели, как выглядит эта свобода.

Это алгоритм, который приводит тебя к геноциду мнений. Это рекомендации, которые укрепляют предрассудки. Это UX, который выглядит как клетка, где ты сам платишь за свой корм.

И всё же… Я надеюсь, они правы.

Что он действительно поможет людям стать лучше.

Может это и правда некая новая эра. А может просто… …очередной раунд симуляции, где мы сами себе сделали нового бога — и попросили, чтобы он говорил с нами голосом «Алексы».

Пока не ясно, кто в итоге победит — человек или промт. Но одно точно: если у каждого будет свой сверхразум, то главный скилл следующего десятилетия — не интеллект, а адекватность.

Мой телеграм канал