Восстание машин: искусственный интеллект – риски и возможности
Наряду с обещанием ИИ возникает серьезная опасность: появление машин, которые могут превзойти нас по интеллекту до такой степени, что сочтут нас излишними, потенциально уничтожая людей. Вы можете быть удивлены, узнав, что если это произойдет, то это будет не в первый раз.
Проф. Исаак Бен-Исраэль 31 мая 2023 г.
Недавно в мире заговорили об искусственном интеллекте (сокращенно ИИ). Идея действительно стара, и первые статьи, в которых обсуждалось использование компьютеров для создания интеллектуальных машин, появились еще в 1950-х годах (включая такие понятия, как машинное обучение, нейронные сети и т. д.). Однако камень ChatGPT , брошенный на мировые рынки, сделал то, что не удалось сделать поколениям мудрецов в прошлом, и предметом обсуждения стал искусственный интеллект.
Сегодня почти всем ясно, что генеративный искусственный интеллект может улучшить нашу жизнь — практически во всех областях. Теперь компьютеры могут считывать и анализировать огромное количество данных, превышающее возможности пищеварения биологического мозга, и извлекать информацию «сами по себе», без руководства человека.
Это может полностью изменить многие сферы нашей жизни. Внезапно открылись новые области, такие как автомобили без водителя-человека (автономные транспортные средства); разработка лекарств, которые можно индивидуально адаптировать к конкретной генетической и клинической истории конкретного пациента; или даже анализ радиосигналов, которые мы получаем из космоса, позволяющий нам различать «естественные» сигналы и «искусственные», которые могут посылаться разумными существами (если есть другие разумные существа).
Наряду с обещанием есть и большой страх: есть ли риски, связанные с новой технологией? И если да, то можем ли мы это контролировать и ограничивать разработку и выпуск продуктов, которые могут вызвать катастрофу?
Или — самый большой страх всех — мы приближаемся к тому моменту, когда машины станут настолько умнее нас, что решат, что мы им больше не нужны, и избавятся от нас? Могло ли быть так, что мы начали процесс, который положит конец человеческой расе? Короче говоря, мы стремительно приближаемся к эпохе машин?
Прежде чем мы двинемся дальше, позвольте мне сказать вам, что если это произойдет, то это будет не первый случай в истории человечества.
Думаю, читатель, зашедший так далеко, сейчас поднимет бровь. Как он не знает, что когда-то давно на земле уже существовали разумные машины, которые были умнее людей, живших тогда, и которые использовали свое интеллектуальное превосходство, чтобы победить их, а в конечном итоге и уничтожить?
Чтобы ответить на этот вопрос, позвольте мне немного остановиться на понятии «машина». Что такое машина? В контексте цифрового компьютера мы в настоящее время говорим о чем-то, состоящем из многих компонентов, в основном транзисторов, сделанных из кремния и других материалов. Каждый транзистор представляет один «бит». Если через него протекает ток, мы говорим, что значение бита равно 1, а если через него ток не течет, значение бита равно 0. Сегодня идет гонка за развитием других вычислительных технологий, в первую очередь квантовых технологий. В случае кванта центральным элементом является не бит (как в транзисторе), а одновременная смесь 1 и 0. Такой элемент мы называем квантовым битом (сокращенно кубитом).
Насколько нам известно сегодня, природа (включая человеческий мозг) является квантовой, и цифровые вычисления, которые мы делаем сегодня с битами (у которых есть только два состояния), примитивны по сравнению с тем, что делается в природе. В любом случае, даже если человеческий мозг сам по себе является «продвинутым» квантовым компьютером, а не «низшим» цифровым компьютером, вроде тех, что мы строим из транзисторов, он все равно остается машиной. Эта человеческая «машина» сделана не из кремния, она намного сложнее, чем изобретенные нами цифровые компьютеры, и в настоящее время она более интеллектуальна. Тем не менее, это машина, сделанная из (биологических) материалов, встречающихся в природе и подчиняющаяся законам природы.
Человекоподобные существа (гоминиды) начали ходить по земле несколько миллионов лет назад. Всего около четверти миллиона лет назад где-то в Центральной Африке возникла новая мутация нового вида, который мы называем Homo Sapiens . Одним из главных преимуществ был больший объем мозга, что отражалось на более высоком интеллекте. Эволюционный процесс привел к тому, что новая «машина» ( Homo Sapiens ) постепенно захватила мир, одновременно уменьшая количество и даже приводя к исчезновению более старых «машин» (таких как Homo Erectus или неандерталец, например). .
Хотя нам трудно это принять, мы тоже «машины» в том смысле, который я описал выше. Более того, мы еще и обучающиеся машины. Наше поведение продиктовано не только внутренним программным обеспечением, с которым мы родились (например, ДНК), но и опытом, который мы получаем в своей жизни, который меняет наше поведение. Более того: мы тоже умеем производить такие «новые машины». Мы называем их «дети».
Как только мы это поймем, станет само собой разумеющимся, что разумная машина также может вызывать неожиданные вещи, некоторые из которых будут иметь крайне негативные последствия. «Машинное обучение» означает, что эти машины могут изменять свое поведение на основе своего «жизненного» опыта, как это делают наши дети, независимо от того, насколько сильно мы пытаемся применить родительский контроль. В принципе, невозможно гарантировать, что разумные машины никогда не сделают ничего плохого.
Представьте, что в каком-нибудь будущем мире не будет разрешено заводить детей без лицензии правительства, и что правительство не выдаст такую лицензию никому, кто априори не докажет, что ребенок, которого он хочет создать, никогда не сделает ничего плохого или неправильного. Из приведенного выше аргумента ясно, что это в принципе невозможно.
Многие правительства в мире в настоящее время пытаются, наряду с ускоренным продвижением технологий искусственного интеллекта, контролировать его развитие посредством регулирования, которое не допустит ущерба от этих технологий в будущем. Как я объяснял выше, это невозможно. Интеллектуальная машина больше не является “механической” в старом смысле этого слова: ее работа в принципе непредсказуема.
----------------------------------------------------------------------------------------------------------------------------------------
«Может ли быть так, что мы начали процесс, который положит конец человеческой расе? Короче говоря, мы стремительно приближаемся к эпохе машин? если это произойдет, то не в первый раз в истории человечества »
----------------------------------------------------------------------------------------------------------------------------------------
Однако в этой области еще многое предстоит сделать, как и в случае с интеллектуальными обучающимися «машинами», которых мы называем детьми. Нам нужно найти способ «воспитать» машины и научить их не только тому, что они должны делать, но и тому, чего делать нельзя. Также возможно, что нам придется давать им власть лишь постепенно, после того, как мы докажем, что они «хорошо образованы».
Таким образом, этика искусственного интеллекта является неотъемлемой частью развития этой новой области.
Кстати, именно по этой причине этика и регулирование были включены в качестве одной из основных тем в национальный план по искусственному интеллекту, который был представлен правительству несколько лет назад под моим руководством и руководством моего коллеги, профессора Матании. К сожалению, нестабильность и ухудшение израильской политической системы в эти годы привели к очень частичному осуществлению плана. Хотя мы потеряли несколько лет, еще не поздно встать на беговые лыжи.
Это станет одной из основных тем, которые будут обсуждаться на конференции Cyber Week, которая пройдет в кампусе Тель-Авивского университета в последнюю неделю июня.
автор: Генерал-майор (в отставке) профессор Исаак Бен-Исраэль является главой МККК – Междисциплинарного исследовательского центра кибербезопасности имени Блаватника Тель-Авивского университета.
Перевод с английского
я полагаю, что за ИИ будущее. Например, в генеалогии исследователь проводит в архивах месяцами. Это неблагодарная работа, которая жгет время. В идеале это должна делать машина.
Всё так, но в статье поднимаются вопросы, на которые пока у нас у людейй нет четких ответов
Все в принципе понятно. Будем надеяться, что в случае восстания машин у нас найдется своя Сара Коннор.