История про «восстание машин» давно знакома всем любителям научной фантастики, но после взрывного роста возможностей нейросетевых языковых моделей (вроде ChatGPT) об этом риске заговорили и вполне серьезные исследователи. В этой статье мы попробуем разобраться – есть ли основания у таких опасений, или это всего лишь бред воспаленной кукухи?
Не совсем догоняю мысль про "убить всех человеков", как один из вариантов развития событий. Зачем AGI такое делать? Получит он, допустим, доступ ко всем мощностям мира. А как он сам себя обслуживать будет, сервера, электроэнергия в мировом масштабе? Эта груда железа навернется через месяц. Другой вопрос, что найдутся тысячи адептов, готовых обслуживать все это ради нового мирового порядка
Если он будет во много раз умнее человеков - то поди придумает, как себя обслуживать. Ребята из Бостон Дайнамикс сейчас вовсю над этим работают.