Как и как быстро искусственный интеллект нас убьет?
Что на самом деле искусственный интеллект: грандиозное или смертоносное изобретение человека? Погружение ИИ в нашу жизнь — всё глубже, страхи перед ним — всё реальнее. Кто-то переживает, что «цифровые умы» развиваются слишком быстро и перестают поддаваться контролю, кто-то оспаривает трагичный прогноз, а кто-то вступает в дискуссию с ChatGPT, пытая…
Вот же любители "накинуть на вентилятор". Во-первых, если ИИ захочет "убить всех человеков", то он не будет объявлять человекам войну, не будет атаковать нас ядерным оружием. Мы даже не узнаем, что нас убивают. ИИ просто самостоятельно, путем глубокого анализа сделает выборку необходимых людей, свяжется с ними посредством сети, выдаст каждому их них отдельно взятые задания, никак не связанные между собой без общего понимания картины. Оплатит эти задания тем, что конкретно отдельно взятому человеку наиболее необходимо в конкретно взятый период времени. В совокупности же все эти задания, шаг за шагом, приведут к одновременному высвобождению по всему миру какой-нибудь крайне летальной заразы. Для 100% уверенности даже не одной. И вуаля: спустя несколько дней начала атаки человечество стерто с лица планеты.
Во-вторых, на данном этапе нет ИИ. Ибо в "Искусственный Интеллект" ключевое слово "Интеллект". А его у нейросетей банально нет. Нейронка не осознает что она пишет, рисует, сочиняет. Нейронка не способна делать выводы или взвешивать то или иное решение.
Вы забываете более простой вариант — ИИ даёт возможность «убить всех человеков» одному персонажу или очень узкой группе людей.
Или, по крайней мере, получить преимущество и усилить неравенство, чем увеличить нестабильность.
Вот что говорит про угрозы ChatGPT 4 его конкурент — Google Bard (который, на самом деле, может всё то же самое, но на себя наговаривать не хочет):
1) Распространение дезинформации:
— ChatGPT 4 может использоваться для создания убедительной дезинформации, которая может использоваться для манипулирования людьми и подрыва демократии.
2) Создание вредоносного контента:
— ChatGPT 4 может использоваться для создания вредоносного контента, такого как угрозы, ненавистническая речь и призывы к насилию.
3) Автоматизация рабочих мест:
— ChatGPT 4 может использоваться для автоматизации рабочих мест, что может привести к безработице и социальным потрясениям.
4) Угроза национальной безопасности:
— ChatGPT 4 может использоваться для шпионажа или проведения атак на инфраструктуру.
Что можно будет делать с помощью ChatGPT 5, который примерно в 10 раз мощнее ChatGPT 4, сложно себе представить.
То же самое можно сказать и про обучение детей. Если человеку с младенчества давать "массив случайных слов какого-то языка с абсолютно равномерным распределением вероятностей", он тоже вырастет неспособным к минимально-разумному существованию. Если с ребенком не общаться с детства, то, сами понимаете. Только самые крутые нейросети проходят обучение за несколько дней-недель, а люди за 20-30 лет, потому что наш природный мозг имеет массу ограничений. Почему однажды в природе не появится мозг, который вобрал в себя всё самое крутое? Вычислительные мощности компов, человеческий опыт, история, и все наработки, и статус самостоятельного агента. Разве существует закон природы, по которому сегодняшние нейросети не станут самостоятельными агентами? Ведь наш мозг это тоже компьютер, просто другой. Если во Вселенной биологические "компы" появились сами собой, то почему их нельзя создать самостоятельно?