«А давайте просто снесем окружение»: ИИ-инструмент Amazon решил проблему радикально и устроил сбой в облаке. Но в AWS говорят — виноваты «кожаные мешки»

Доверять автономному ИИ доступ к вашей инфраструктуре — это весело, пока он не решит поиграть в Таноса. Издание Financial Times выкатилo интересный инсайд: оказывается, декабрьские сбои в Amazon Web Services (AWS) были напрямую связаны с их собственными инструментами на базе искусственного интеллекта.

Самая показательная история произошла в середине декабря. Инженеры AWS поручили ИИ-кодеру Kiro (это агентный ИИ, способный самостоятельно принимать решения и выполнять действия) внести определенные изменения в систему.

Нейросеть посмотрела на задачу, прикинула варианты и приняла гениальное в своей простоте решение разработчика: «А давайте просто удалим и пересоздадим среду».

Итог этой самостоятельности — клиенты столкнулись с 13-часовым простоем системы.

Что говорят в Amazon?

Представители AWS ожидаемо встали на защиту искусственного интеллекта. В комментарии Reuters они заявили, что восстания машин не было, а виноват, как всегда, человеческий фактор.

«Этот короткий сбой стал результатом ошибки пользователя — а именно, неправильно настроенных средств контроля доступа, а не работы ИИ», — заявил представитель компании.

Проще говоря: нейросеть просто сделала то, что ей позволили сделать. Нечего давать ИИ права администратора, если система не готова к его радикальным идеям.

В AWS также попытались сгладить углы, отметив, что инцидент был «крайне ограниченным» — пострадал всего один сервис в одном из регионов Китая, а вычислительные мощности, базы данных и другие сервисы AWS не задело. Тем не менее, на фоне масштабного глобального сбоя AWS в октябре (когда легли Reddit, Roblox и Snapchat), новости об ИИ-ассистентах, удаляющих окружения, звучат напряженно.

👉 Ссылка на канал: Утром Деньги (@morning_cash)