ИИ: угрозы или новые возможности

После появления в открытом доступе chat gpt, пошла война хайпа и стали озвучиваться опасения по поводу рисков связанных с ИИ технологиями.
Я, так уж сложилось, интересуюсь последние несколько лет философией техники и в частности этическими проблемами.
Будет плохо? нет. ужасно. ещё хуже! завтра будет непохоже на сегодня, водители останутся без работы, уже сейчас автопилот показывают меньшее кол-во аварий чем человек, при этом степень автономности находится лишь на уровне 3 из 5 (частичная автоматизации, до полной ещё два этапа). И не только водители- таких профессий будет не мало.
Но с другой стороны- я не предвижу никаких противоречий. Правильней сравнивать завтрашний день не с привычным сегодня взятым в статике, а с динамикой исторического процесса. С постоянными изменениями, динамикой, диалектикой и получаемыми от изменений наборами плюсов и минусов. Впрочем даже + и - тут субъективны.

Ваш сосед научился добывать соль или выращивать специи (довольно ценные товары на каком то этапе) у себя. Отлично? для соседа -да. А вы лишились отличной прибыли, А торговец который ездил от вас к соседу лишился бизнеса. Получить "счастье для всех даром что бы не кто не ушёл обиженным" не выйдет- в рамках системы эффекты связанны. Недавно мы видели стоны локальных таксопарков и отдельных таксистов которые лишись сверхприбыли с приходом Uber и подобных сервисов. Уже x3 с туриста поймав его в аэропорту не взять. Не давно мы видели как Магнит с x5 вытеснили сотню тысяч ларьков от ИПшников. Опять были недовольных. Хотя этот путь на завпаде давно пройдет -лидл и волмарт ларёчнику места для выживания не оставляют.

Слишком неэфективен малый бизнес в ретейле массовом. Причём, как и, когдато, рабовладелчество, они были эфектнивны и полезны в когда возникали и процветали. По мир меняется и мы отбразысваем старое. Самое интересное, что изменения происходящие в процессе развития (в частности- развития технологий) трудно предсказуемы. Наша нынешняя "нормальность" вряд ли кто то мог представить веков назад. Люди создавшвашие города и заводы вряд ли продумывали, что будут работники спешащие на производство или в офис вставая по гудку завода или будительнику и лезущие под землю что бы провести там полтора часа. В ту эпоху и графиков работы жёстких не было и рабочее место находилось рядом.

Фон Нейман, Тьюринг,Исаак Брук (1948 год в СССР- первое авторское свидетельство на ЭВМ), вряд и могли представить, что носимый вариант их детища с модулем связи( смартфон) будет использоваться для просмотра фоток котиков и создания фото с губками уточкой, а выход моделей самого известного бренда (Эпл) будет приводить к тому, что люди с утра занимают очередь, что бы стать первым покупателем (очереди понятно тогда были, но в 21 веке, если почитать фантастов, тогдашние поколения ожидали совсем другой мир).Причём работает это в обе стороны. Ядерная бомба скорее пугала, но по факту стала залогом длительного мира без глобальных мировых войн с прямыми столкновениями между великими державами.Автомобили убили профессию ямщик. ПК массовые- машинисток. Отопление централизованное- трубочистов. Водоснабжение- водовозов.

В целом: относительно техники есть спектр эмоциональных отношений. От техно оптимизма, до алармистов (скайнет нас подчинит), неолудитов (давайте не будем дальше обучать большие нейросети, а также поломаем ткацкие станки- они убивают бизнес ремесленников которые не могут с ними конкурировать).Можно вспомнить огромное количество фантастики. И даже происхождение слово робот. Как однокоренное с рабочим. Есть мнение, что страх вставания роботов был перенесён на западе с опасения социалистической революции среди рабочих

Ну и давайте разберём несколько частностей:

1. ИИ захватит власть. Ужас! До сильного ИИ мы пока ещё не дошли. Если создадим действительн, это будет, пожалуй лучшее что создал человек. ИИ не смертен (человек, так уж случилось вскоре после того как набирается жизненного образа и мудрости начинает стареть и болеть) Он может С очень большой скоростью обмениваться информацией с другими ИИ (у людей кроме скорости обучения ещё и коммуникативные барьеры). Вопрос ужас или не ужас зависит от того как Вы оценивайте современный мир. И своё положение в нём.

Вы миллиардер в США, считаете мир справедливым, что всё отлично и лучше быть не может- тогда любое кардинальное изменения для Вас это вред. Не только из за ИИ (вспомните вишневый сад, когда роль элиты менялась с землевладельцев феодалов на промышленников, торговцев и банкиров, которых поэтом потеснила новая техно элита вроде Гейтса и Маска).

У вас всё хорошо, но Вы гуманист взглядов отличающихся от взглядов тех кто сейчас при власти (Например Вы Ноам Хомский- самый цитируемый на протяжении 12 лет учёный мира, социалист и анархо-синдикалист, известен кроме научной работы социальной критикой) ситуация иная. Вы средний житель в в Йемена, в вашей стране война где убили уже 100 тыс. и ещё 300 погибли в результате гуманитарной катастрофы. А "Развитым странам" на это глубоко плевать.

Любое изменение которое уменьшит ваш шанс умереть молодым от голода и болезней для вас благо. Можно это рассматривать как риск. А можно как возможность -что власть будет у силы которая и управляет более оптимально (люди ошибаются), лишена собственных (а также страховых или корпоративных интересов). И быть может более гуманистическая. Если мы доверяем политикам которые ведут себя мягко говоря не всегда этично и если вспоминать холодную войну чуть ли не довели мир для дверного апокалипсиса- то чем ИИ хуже (вопрос как учить и какие ценности задавать и как верифицировать это)? причём для социальных наук вопрос власти то со времён "Государства" Платона стоит.

И хороших решений нет. Напротив- есть поводы опасаться. Попадалось несколько лет назад исследование показывающее, что процент психопатов среди политической и экономической элиты выше в разы среднего по популяции. Платон на это бы сказал 'говорил я вам, что лучше бы правили те кто к власти не стремятся", Макиавелли бы добавил "всякий кто будет добр постоянно, будет похоронен в конкурентной борьбе за власть теми кто не столь этичен".

2. Проблема авторских прав при обучении нейросетей. Художники глубоко возмущены! ИИ может быть вынуждены перейти с чёрной икры на красную.

Право создают доминирующие в обществе классы в определенные моменты с определенными интересами. Уважай копирайт не тянет на одну из десяти заповедей. Нормы ввели обосновывая тем что для обществ суммарно будет больше пользы от таких норм. Когда общества меняется и вред от норм начинает превышать пользу- можно и отменить.

Правовая система тоже штука динамичная. Возраст согласия в Японии ещё месяц назад был 13 лет, а сегодня подняли -связь с 13тилеткой с этого месяца считается педофилией. Геев преследовали уголовно массово до 70тых, можно вспомнить пример Сэра Алана Тьюринга, сейчас же в прогрессивно мире действует позитивная дискриминация для секс меньшинств. В США по историческим меркам не так давно было рабовладельчества, а далее расовая сегрегация, а сейчас перед чёрными модно вставить на колени. И т.д. Другой аспект- а так ли отличается современный художник от ИИ? "Мы видели так далеко т. к. стояли на плечах гигантов. Важнейшая часть подготовки художника- это изучения истории живописи.

Даже в фотографии -я сам когда изучал её слушал разборы длительный разных школ и авторов, были задания- снять в стиле %NAME%. Практикующие художники и фотографы смотрят на работы конкурентов. И копируют их. Профессионалов которые делают что то своё и заняты самовыражением- мало. Большая часть ориентируются на запрос публики. А он может звучать "снимите меня также как в этом гламурном журнале". Как то был я не творческой встрече с одним из мэтров который сказал- я не профессиональный фотограф. Я не зарабатываю этим. Я не хочу быть обречённым на подстраивание под моду и запросы клиентов. Он известен именно как фотограф. Но зарабатывает как графический дизайнер, редактор крупного фотосайта и т.д.

Причём из сотен тысяч тех кто использует, допустим, рембрандтовское освящение в роутерах и фото ни одного желающего отдать часть своей прибыли наследникам Рембрандта нет. Современные художники котируют Джона и Дадаистов (с них современное искусство и началось в 20 веке), но не спешат делиться прибылью- даже если работа продаётся за миллионы. В моём понимании ценность человека творца как раз в способности создать новое. Если художника заменила нейросеть и он не способен продуцировать что то что сеть ещё не умеет- Гош ему цена. И рабочее место на заводе вне очереди.

3. Замусоривание интернета. Услышал на днях интервью где такой риск озвучен. С одной стороны да- нейросеть может породить контент который люди жаждущие легкого заработка будет понетизировать без проверки качества. С другой- а сейчас сильно иначе? мне как то предлагали вести канал с обзором акций компаний. Мне интересно и я озвучил цену.

Собеседник пояснил, что он платит в разы меньше. Но я понимаю, что работа не самая быстрая (если влезать в детали, ну а если не влезать -можно сильно ошибиться+ требует квалификации и профессионал за эти деньги работать не будет. Но интернет полон такими каналами про инвестиции. Полон контентом с обзором ноутбуков от людей не слишком компетентных войти, статей про похудание от людей не имеющих никакого отношения к медицине, обзоров компьютеров от людей никак сайты не связанных. И т.д. Тут общий эффект- с одной стороны старая система со суровыми главными редактовктарами и рецензентами -экспертами, принятая в классических СМИ в интернете исчез дела. Новая пока только рождается- например, через рейтинг авторов и статей.

Но в целом хорошего решения нет -условно котики будут вызывать куда больше лаков, чем серьёзная аналитика по экономике. То есть это попытка увидеть в ИИ угрозу которая не связанная ИИ, а вызвана текущими недоработками системы в которой мы живём. Что весьма типично. С той же безработицей- в мире с безусловным подушевым доходом, мне кажется она бы мало кого беспокоила. Как и в мире где обеспечение занятостью занятость проблема не возлагаемая гражданина, государства. Главная проблема которую я вижу -это социальное, культурное, инститцильное и психологическое отставание общество и конкретных людей .

Карабин становиться опасен, если дать его племени "дикарей" которое привыкло постоянное вести войну с луком из стелами с соседними племенами. Мы должны эволюционировать, сокращать, а не увеличивать разрыв. Это сложно. Но реально. Если посмотреть на советский проект в начале 20 тых или проект Израиля в момент его создания, то явно ставилась цель- воспитать человека нового типа. Удалось ли? отчасти. Но это первые попытки. И думаю с современными технологиями которыми на нас воздействуют PR, медиа, рекламщики, и политики мы бы добились куда больше. Главное направить технологии в мирное русло.

Удастся- мы становимся сверхлюдьми, симбиотический связанными с технологиями (это не страшно- мы уже и так связанны, не только через смартфон, но и банальные очки- без такой кибергизации жизнь многих людей была бы куда хуже). А не удаться- тогда вероятно уместно обсудить вопрос передать, по крайней мере частично, бразды власти более развитому интеллекту Если такой будет создан- в чём пока уверенности нет- носят ли процессы в головном мозге "вычислимый" характер- вопрос дискуссионный.Ну а сдерживать созданное тобой, более совершенное, мне кажется последнее дело. Это всё равно, что если бы наши предки из приматов перебили бы зарождающихся хомо спапиенс. Как опасного конкурента.

4. Продолжать можно долго. Увижу интерес- напиши продолжениеМир динамично меняется. это и есть норма. И ИИ это один из мощных потенциальных драйверов таких изменений. Какими они будет? покажет время

p.s. Это мой первый пост здесь. Если что не так- сильно прошу не пинать