Человечество против искусственного интеллекта: может ли развитие нейросетей привести к катастрофе
История про «восстание машин» давно знакома всем любителям научной фантастики, но после взрывного роста возможностей нейросетевых языковых моделей (вроде ChatGPT) об этом риске заговорили и вполне серьезные исследователи. В этой статье мы попробуем разобраться – есть ли основания у таких опасений, или это всего лишь бред воспаленной кукухи?
Спасибо за разбор. Хотелось бы побольше раскрыть тему почему с рубильником всё не так просто, потому что сколько бы AGI не децентрализовывался, ему по прежнему нужны:
- огромные вычислительные ресурсы, которых не так много на обычных пользовательских компах
- электричество и интернет, которые вполне себе централизованы
Человечество не может сейчас просто взять и вырубить весь интернет и электричество - потому что тогда будет полноценная катастрофа и без всякого ИИ. А пока вот это всё работает - децентрализованный "вирус" может вполне продолжать работать внутри этой инфраструктуры.