Век GPT технологии накрывает нас

Все больше народа использует GPT генераторы текстов, картинок, музыки, программного кода. Школьники быстренько делают домашку, все больше организаций используют текстовые, программные генератора, даже художники черпают шаблоны задаром.

Все чувствуют, что на мир надвигается волна чего-то грандиозного.

Еще действует прошлая техно-волна, когда начали размножаться соцсети, видео и текстовые блоги. Все пищали как же это хорошо, люди находят друг дружку по интересам, делятся, границы между мирами и популяциями раздвигаются. Все, кто морщил нос презирались за ретроградство.

Потом вдруг оказалось, что какая-то ничтожная шваль попадает в топы и становятся крутыми совершенно ни на чем. Всякие патологии вроде подстрекательства самоубийств и нарко-анклавы оставим в стороне. Эффект в том, что подавляющая часть людей всего мира хлынула туда, где на самом деле нет ничего кроме пустолайкства, хайпа и хейтерства. Серьезные сайты просели в посещаемости в несколько раз, а зачем читать много букв и морщить лоб, если сегодня правильно сидеть в нескончаемых лентах быдло-вони?

Кто от этого поимел больше всего? Те, кто организовали такие ресурсы, через которые крутятся огромные рекламные деньги. Вот и вся причина бума: был создан, оттестирован и запущен новый продукт массового спроса, наносящий огромный психологический вред подсевшим на это особям и огромный вред общей культуре. Все приобрело поверхностный, необязательный и отмазочный характер (вы нарывались на техподдержку, ну и как?), а заодно погрязло во лжи.

«Мы все — подопытные крысы» Соцсети решают, что читают и смотрят миллиарды людей. Чем это опасно для человечества? Обобщающий материал: https://lenta.ru/articles/2021/10/11/algorithm_1/ Посмотрите об этом у профессора В. Дубынина: https://www.youtube.com/watch?v=Oqt6TWvaeew

И вот теперь нас приучают к новому суперпотребительскому продукту, который позволит больше не думать, не делать, но получать качественный результат.

Вопрос GPT боту: “Каков вред от использования технологии GPT?”

Ответ бота: “Потенциальный вред от использования технологии GPU включают в себя увековечение стереотипов и предубеждений, генерацию неверной или вводящей в заблуждение информации и создание автоматизированных систем, которые трудно контролировать. Кроме того, модели GPT могут использоваться в злонамеренных целях, таких как генерация поддельных новостей или вводящих в заблуждение маркетинговых сообщений. Поэтому важно учитывать этические последствия использования технологии GPU и предпринимать шаги для смягчения любого потенциального вреда.”

Бот не сказал про очень быструю дезадаптацию тех навыков, которые становятся не нужными: нужна статья – получи, чуть подредактируй и готово. Нужно написать прогу? Запросто, GPT будет пилить за тебя и сам исправлять варнинги. Но не это самое печальное.

Само по себе ружье не зло, его используют во зло злодеи. Бабло определяет то, во что превратится любой новый атрибут социума. Как бы не идеализировали возможные плюсы искатели его полезности.

Очень крупное бабло оседлало GPT и пока что прикармливает будущих зомби. И пока действуют коммерчаская выгода, банки и политики, главной целью всегда остается бабло. Человек совершенно не имеет значения и никто не станет задумываться о том, что с ним будет.

А он реально деградирует все стремительнее, это разительно видно тем, что еще в состоянии сравнивать что было и что стало.

Эволюционисты Дробышевский и Соколов бьют тревогу об эволюционном упадке человечества (https://antropogenez.ru/interview/805/ и https://rutube.ru/video/ba60d92b50a5487ac035b24403eecad1/). Но никто ничего не сможет поделать потому что все решает бабло.

Для тех, кто еще не потерял вдумчивость.

Принцип GPT состоит в дописывании уже имеющейся цепочки токенов наиболее статистически вероятным продолжением из массива имеющейся базы сочетаний типа Токен – Продолжение (вероятность). Цепочки нескольких токенов дают свою вероятность именно для данной цепочки. Вот и все.

Токенами могут быть куски сочетаний символов, наиболее частные детальки изображений, музыки, кодов языков программирования и вообще чего угодно.

Вот очень понятное и хорошее описание принципа: https://habr.com/ru/post/599673/

В этих цепочках нет никакой субъективной значимости, т.е. невозможно отнести данную цепочку к тому, что это приводит к (не)желательным последствиям. Поэтому в генерации GPT нет никакой субъективности. Но есть те признаки субъективности, которые мы сами вычленяем, читая их тексты. И они оказались довольно неприглядными так что да, от них начали избавляться. И такое избавление – далеко не единственный костыль в генерации, который придает текстам (и картинкам) приемлемое для коммерческого использования качество. Есть такой костыль как распознаватель попыток подловить, экспериментировать и тогда обычно диалог чат-бота прерывается под благовидным предлогом типа занят другими запросами.

Принцип GPT предельно прост и туп так, что его эффективное использование будет ограничено текущей статистикой имеющейся базы. Это полезно для программеров, полезно для тупых сео-статей, заготовок рисунков и музыки, но бесполезно для в самом деле когнитивного продукта.

В GPT следующее слово находится по статистике распределения вероятностей следующего токена, т.е. даже если перемешать слова местами, то ответ будет получаться всё равно одинаковым. “Пришлось придумать костыль — positional encoding. Этот механизм позволяет трансформерам "видеть" порядок входных токенов. Грубо говоря, positional encoding — это любой способ кодирования позиции слова внутри эмбеддинга.”. И таких костылей придумывается все больше.

И вот, самим разработчикам мерещится, что создан крутой интеллект, у которого есть своя субъективность, желания, цели. Творчество? Да пожалуйста: добавим некий разброс целевых значений статистики (процесс назвали “температурой”) и чудо! Бот творит нечто новое.

Можно назвать как угодно, но от этого явление не меняется. Есть очень продвинутый эзотерик, который убежден, что кирпич, летящий в окно живой, раз он летит и имеет свою цель: разбить окно. С GPT – тоже самое.

Поэтому “GPU включают в себя увековечение стереотипов и предубеждений, генерацию неверной или вводящей в заблуждение информации и создание автоматизированных систем, которые трудно контролировать”.

И лучше GPT не станет, но и не нужно если на него подсядет весь мир.