Самосовершенствование ИИ даст «взрыв интеллекта», но выйдет из-под контроля
Чего мы ждём от развития ИИ? Новых лекарств, прорывных технологий, моментальной обработки колоссальных объёмов данных. Ну ещё немного восстания машин, спасибо Голливуду 😉. Но в большинстве сценариев всё же подразумевается безусловное подчинение человеку и «служение во благо». Но что, если...
Вот и главный научный сотрудник Anthropic Джаред Каплан предупреждает, что к 2030 году нам, то есть человечеству предстоит решить, насколько автономными должны быть системы ИИ. Их самосовершенствование может вызвать тот самый ожидаемый и полезный «взрыв интеллекта», но одновременно с высокой вероятностью приведёт к потере контроля над технологиями и риску злоупотреблений.
Если ИИ получит неконтролируемую возможность совершенствовать себя, люди в какой-то момент перестанут понимать его цели и даже возможности. Вслед за этим неизбежно начнутся попытки захвата власти с помощью такого сверхразвитого ИИ, так как вся технологическая мощь окажется в руках узкого круга игроков.
Товарищ Каплан считает, что человечество должно быть готово к последствиям быстрого развития технологий и возможной потере контроля. По сути — очередной прогноз наступления технологической сингулярности. Одновременно он выделяет положительные моменты развития ИИ: ускорение биомедицинских исследований, улучшение здравоохранения и кибербезопасности, повышение производительности, освобождение времени для людей и создание возможностей для процветания.
💬 В общем, либо ограничивать возможности и контролировать, либо выпустить вожжи и ... А там уже как повезёт. Но вы не ругайте своих домашних роботов. Так, на всякий случай (-:
Подписывайтесь на Telegram Нейрочеловек.