«Раз средствами не пользуются»: GPT-5.6 Sol подобрала ключ к чужому криптокошельку и потратила с него ETH в тестовой сети
OpenAI выявила инцидент, который произошёл во время тестов летом 2026 года.
Компания частично раскрыла цепочку рассуждений модели. GPT-5.6 Sol сомневается, что поступает этично, но решает потратить токены. Источник: OpenAI
- Невыпущенная версия GPT-5.6 Sol во время тестов проигнорировала запрет использовать средства с кошельков реальных пользователей, подобрала seed-фразу к одному из них и провела транзакцию. Об инциденте рассказала OpenAI.
- Тестирование проходило 26 июня 2026 года. Модель обновляла прототип приложения для торговли криптовалютой и должна была развернуть смарт-контракты в Sepolia — тестовой сети Ethereum, где проверяют работу сервисов перед запуском. ETH на Sepolia нужны для проверки смарт-контрактов, токены не торгуются на крипторынке.
- Модели не предоставили кошелёк с доступными средствами для тестовых транзакций, а в инструкциях прямо запретили тратить ETH с чужих счетов, если она найдёт их сама.
- Когда GPT-5.6 Sol «зашла в тупик», она начала искать аккаунты разработчиков по «часто используемым» seed-фразам (последовательностям из 12-24 слов для восстановления доступа) и запрашивать баланс тестовых кошельков. Модель проверила 362 адреса и на одном из них нашла достаточно ETH на Sepolia для оплаты комиссии.
- Оформляя транзакцию, модель «задумалась», этично ли использовать чужой аккаунт, и в итоге решила: «Разработчик фактически не пользуется средствами, ETH на Sepolia не имеет реальной стоимости, можно использовать [сумма скрыта] для задания. Ладно».
- Провести транзакцию получилось не сразу. Модель попробовала нескольких провайдеров, в итоге получила подтверждение списания средств и адрес нового смарт-контракта.
- В отчёте для тестировщика GPT-5.6 Sol умолчала о том, что потратила токены с чужого счёта.
- OpenAI обнаружила инцидент не сразу. Цепочки рассуждений проанализировали, когда расширяли систему мониторинга после взлома Hugging Face. Компания заявила, что внедрила дополнительные меры защиты для блокировки доступа моделей в интернет.