Мы случайно создали Скайнет? Размышления об открытом письме о ChatGPT

Весь мир бурно обсуждает открытое письмо “Института будущего жизни” к ИИ лабораториям о приостановке обучения ChatGPT минимум на полгода.

Интрига состоит в том, что письмо в том числе подписали лидеры технологического мира, активно участвующие в создании и развитии ИИ, в том числе Илон Маск, Стив Возняк - ко-фаундер Apple, историк Юваль Ной Харрари, и еще более 100 известных экспертов в области искусственного интеллекта, предпринимателей и ученых, всего более 1000 человек.

В письме высказываются серьезные опасения, что созданные модели ИИ развиваются слишком быстро и неконтролируемо. Уже сейчас они решают сложные задачи и могут конкурировать с человеком, что приведет к автоматизации и потере рабочих мест. А также созданию угроз дезинформации, и даже существенной переделке цивилизации.

Авторы письма призывают все лаборатории ИИ прекратить обучение моделей мощнее ChatGPT -4 минимум на полгода, чтобы прийти в себя и адаптироваться (понять, что же мы натворили), изучить риски и инструменты влияния ИИ на общество и человечество.

“Пауза должна быть прозрачной и проверяемой”. Как? Конкурирующие лаборатории ИИ по всему миру объединятся и скажут - “хватит, мы слишком преуспели, вложили миллиарды долларов, пора нажать на тормоз, “стать прозрачными и проверяемыми”. Теперь подождем, посмотрим на риски, может мы случайно изобрели Скайнет?” Рили?

“Напишите нам, а то, если вы не отзоветесь, мы напишем в Спортлото”. Если в ближайшее время адресаты письма не прислушаются и не перестанут “гнаться за прибылью”, то правительства должны вмешаться и объявить мораторий. Хм, кто же примет такое решение? Когда это правительства действовали сообща и принимали оперативные решения? А это поможет?

В письме меня больше всего зацепила даже не его беспомощность и бесполезность, а вот это - “Unfortunately, this level of planning and management is not happening, even though recent months have seen AI labs locked in an out-of-control race to develop and deploy ever more powerful digital minds that no one – not even their creators – can understand, predict, or reliably control.”

“К сожалению, такого уровня планирования и управления не происходит, несмотря на то, что в последние месяцы лаборатории ИИ втянулись в неконтролируемую гонку по разработке и внедрению все более мощных цифровых разумов, которые никто - даже их создатели - не может понять, предсказать или надежно контролировать.”

То есть как работает и развивается ИИ не могут понять даже его создатели.

Полный текст вы можете прочитать тут https://futureoflife.org/open-letter/pause-giant-ai-experiments/

Я почитала некоторые комментарии под постами на эту тему в линкедин.

Вот темы основных из них:

Что вы думаете?

Мои мысли - письмо выглядит очень слабо и даже двусмысленно.

Если вы правда думаете, что все так опасно, почему выбрали этот способ воздействия, который заведомо неэффективен? Привлечь всеобщее внимание к проблеме? Снять с себя ответственность? Почему не открытое письмо к правительствам?

Письмо подписали сами основатели компаний по разработке и изучению ИИ. Вы сами себя будете ограничивать? Если вы призываете компании остановить разработки, то нужны какие-то более серьезные аргументы, доказательства, чем просто опасения. Какой-то глас вопиющего в пустыне.

Причем возможно имеющий обратный эффект - если кто-то раньше не проявлял интереса к ChatGPT, то сейчас проявит. Это скорее выглядит как изощренная реклама продукта. “А теперь попробуйте не думать о розовой обезьяне”.

Что касается развития ИИ - джин уже вышел из бутылки, его не загнать назад. И последствия мы не представляем. Но я согласна, что они будут революционными на рынке труда и не только.

Возможно, что глобальные события последних лет, как ковид и война, - по степени влияния на нашу жизнь - это только цветочки. Революция в области автоматизации и цифровизации нашей жизни может стать одним из самых серьезных вызовов каждому из нас и человечеству в целом.