Человечество против искусственного интеллекта: может ли развитие нейросетей привести к катастрофе
История про «восстание машин» давно знакома всем любителям научной фантастики, но после взрывного роста возможностей нейросетевых языковых моделей (вроде ChatGPT) об этом риске заговорили и вполне серьезные исследователи. В этой статье мы попробуем разобраться – есть ли основания у таких опасений, или это всего лишь бред воспаленной кукухи?
Насколько увлекательная статья, настолько и противоречивая. Несмотря на то, что я сторонник ИИ и активный пользователь ChatGPT Plus и других нейронок, пока что сама ситуация напоминает мне хайп десятилетней давности вокруг крипты. Угроза мировой финансовой системе, беспокойство спецслужб по поводу бесконтрольности цифровой валюты, тонны бабла от инвест-фондов в биток, какой-то полицейский участок в котором предложили выдавать зарплату криптой – каждый день выходили десятки таких статей. В итоге революции не случилось, экспонента ушла в боковичок)
Сейчас ощущения аналогичные. Да, прогресс есть. Да тонны бабла льют в AI. Да, даже бездомные около Казанского вокзала сейчас дискутируют о разнице между Миджурни и СтейблДифьюжн. Но, ИМХО, как справедливо заметил автор, это очередная волна хайпа. А реальный революшн вполне может состояться в следующую волну или даже через одну. К этому времени мы успеем адаптироваться и привыкнуть настолько, что нам этот прогресс покажется скучной обыденностью. Прям как это происходит сейчас, когда чудо современных технологий воспринимается просто как данность, а у многих вызывает даже скуку.
Основная идея статьи - о проблемах ИИ надо думать сильно заранее до того, как мы изобретем сильный ИИ. Потому что если что-то пойдет "не так" в первый раз, когда возникнет strong AGI - то этот раз может оказаться и последним.
пока что сама ситуация напоминает мне хайп десятилетней давности вокруг крипты.
Ну так оно так и есть. Это впечатляющая игрушка с точки зрения технологичности, но малополезная с точки зрения промышленного применения. Как и с криптой, найдет свои полторы ниши и будет там тусить. До следующего прогресса в области. Тут, в отличие от крипты, по крайней мере есть куда расти.
да уже сейчас для многих развитые нейронки кажутся весьма скучным прогрессом
реальный революшн может уже случился, вот только тебе сказать не озаботились. это же только на слуху картиночки да текстики, а что там прикручивают условные военные да финансисты какой дурак рассказывать будет?
про это у Пелевина есть хороший рассказ "Зенитные кодексы Аль-Эфесби"
Проблема в нашем субъективном восприятии экспоненциального роста развития технологий, а точнее в его не понимании. Для нас реальность кажется линейным: ребенок учиться ходить, потом говорить, садик, школа, вуз, работа, один хайп, другой (крипта). Мы опираемся не не факты, а на свой опыт. То бишь, детерминированно мыслим так "если с криптой был хайп и он прошел, то сейчас с ИИ тоже хайп и это тоже пройдет".
Для понимания особенностей наших мозгов (когнитивных искажений), это работает как одна из особенностей, например, обобщение: "мужикам только одно надо", "все бабы дуры", "пиндосы".
Наука обнаружила свыше 200 когнитивных искажений, через призму которых воспринимаем реальность исключительно субъективно по своему, ещё и в силу своего опыта, генетических особенностей, но не такой какая есть на самом деле. Вот и получайте различие взглядов: "за ИИ", "давайте не торопиться" и т.д.
А где истина покажет опыт, а не вот это вот "очередной хайп и это пройдет". Фокус в том, что этот случай может быть последним и возможно уже не сможем остановить негативные для нас последствия. Допустим, открытие из примера с клубникой может быть равна к мощности в миллион раз Чернобольского АЭС, которого уже пожарными (читай–программистами) не потушишь.