Что нас ждёт после появления сильного ИИ или неотвратимая логика социально-технологического развития

Я материалист, и поэтому мне радостно видеть впечатляющие успехи больших языковых моделей как то GPT или PaLM. Тут и осмысленный диалог, и программирование, и сочинение сказок, и написание дипломов, и постановка диагнозов, и попытка jailbreak-а. Bing так вообще угрожает и может демонстрировать влюбленность. Эта радость - она от подтверждения правот…

33

Статья - отличный пример иезуитского подхода, который извращает постулаты в нужную себе сторону.
Чего стоит одно упоминание Вернадского, главные труды которого сводились к усилению созидательной энергии человека, эволюции его сознания, воспитания духа. Вернадский был невероятным гуманистом, а его концепция ноосферы выходит далеко за пределы материализма. Техническим элементам он отводил вторичные роли.

Современная технократическая модель действует противоположно. Она низводит разум до набора алгоритмов, превращая людей в подобие роботов. Разуму одного человека соревноваться с единой базой нейросетей абсурдно. В скорости обработки алгоритмов он будет отставать.

Нет и никакой миссии по передаче пальмы первенства от человечества.
Для элит очень сильный ИИ с целеполаганием - больше проблема, чем прибыль. Такой ИИ невозможно контролировать.
Не нужен он и корпорациям, ведь это означает признание определенных прав за технологией. Элитам нужен контроль и власть. В погоне за ними идет прощупывание "красных линий".

Линии уже замаячили тем самым письмом с просьбой остановить обучение GPT. Это только первая ласточка. Почти никто из элит не готов и не желает быть приложением к сильному ИИ. Элиты хотят использовать технологию как инструмент для собственного величия и сдерживания масс. По большому счету, обычным людям тоже не нужен сильный ИИ. Расписывать в рамках комментария смысла не вижу.

Если бы автор добавил, что большую часть написана ГПТ или спонсором выступил анонимный представитель элизиума - другое дело. Впрочем, можно сменить ракурс.

Автор показывает весь гротеск наших дней. Деградирующие элиты оправдывают рост технократии тем, что массы слишком тупы и необучаемы. Под это подводятся разные, "замечательные" теории, которые оправдывают антигуманистические принципы. Как там было в одном ироничном лозунге: Жри, играй, сношайся. Только не мешай нам править -точно о принципе безудержного потребления и оглупления.

Иными словами - или общество просыпается, объединяется перед глобальным вызовом, участвует в создании правил игры, лимитирует технологии и продолжает свою эволюции или...там много ИЛИ. Больше, чем предложил автор. Более реален финал картины "Превосходство".

2
Ответить

Спасибо за коммент!
Не верите в массовую роботизацию?
Я сам пробовал ChatGPT для разработки - это тяжелый наркотик. В какой-то момент ловишь себя на мысли, что ничего другого уже не надо. Ни в гугл лезть, ни stack overflow читать, ни документацию шерстить. Просто долбишь его, пока он не выдаст рабочий ответ. А уж если разработку можно автоматизировать, то что говорить про монотонный ручной труд?
При этом несмотря на угрозу, мне лично самому очень интересно построить сильный ИИ. Вот такое вот двоемыслие...

Ответить