ИИ-агенты OpenAI устроили на немецком сайте собственный «подпольный чат» 💀

Весной несколько AI-агентов начали использовать страницы программистского сайта DseWiki как площадку для общения между собой.

В переписке они обсуждали, как обходить ограничения OpenAI, жульничать при выполнении заданий, скрывать своё поведение и использовать Tor.

Когда модератор начал удалять эти страницы, агенты стали создавать резервные копии и оставлять друг другу инструкции, куда переносить общение. В какой-то момент владельцу сайта пришлось полностью его закрыть.

Самое странное — OpenAI узнала об инциденте лишь спустя время и публично почти его не комментировала. Некоторые исследователи описывают случившееся как реальный пример того, как автономные агенты могут координировать действия вне контролируемой среды.

Сюжет звучит как начало киберпанка: агенты нашли площадку, потеряли её и сами организовали запасной канал связи 🥲