Как я потерял $1200 на ChatGPT, и что из этого вышло

Не каждый день теряешь $1200 из-за ошибки AI. В этом топике я расскажу, как небольшой баг в ChatGPT едва не опустошил мой баланс, и как это избежать, если вы работаете с API ChatGPT.

Привет! Меня зовут Антон, я руководитель проекта Савви. Мы создаём платформу для автоматизации работы с AI, и недавно столкнулись с непростой ситуацией, которая стоила нам почти $1200. Эта история будет полезна для всех, кто активно использует ChatGPT по API. В конце вас ждёт неожиданная развязка, так что читайте до конца.

Полтора года назад мы начали задумываться, как можно интегрировать возможности ChatGPT в наш первый бизнес — мы делаем софт для МФО. Одной из идей было использование AI для техподдержки. Сначала всё шло довольно гладко, и мы добились неплохих результатов, часть вопросов стали закрываться при помощи AI. Это вдохновило нас развивать проект Савви — платформу для создания AI-сотрудников, которая позволяет интегрировать AI с внешними системами.

Мы уделили большое внимание качеству ответов AI и испытали все возможные подходы, включая дообучение GPT на своих данных и схемы RAG. В конце концов, мы разработали рабочую модель, которая минимизировала так называемые "галлюцинации" модели. Кроме того особенностью современных LLM-моделей является встроенная возможность вызова определенных действий (например, внешних API), что открывает перед AI возможность в нужный момент запросить информацию из сторонних систем, например, из CRM. Всё это выглядело как отличное решение... до одного события, которое кардинально изменило наше восприятие этого процесса.

Это случилось, как и полагается в IT-компаниях, в самый неподходящий момент — в выходные вечером. Когда я зашёл в личный кабинет OpenAI, то обратил внимание на аномалию: расходы по аккаунту начали расти стремительными темпами. 800$... 802$... 805$. Прирост был небольшим, но непрерывным. Первой мыслью было — возможно, кто-то взломал наш API-ключ и начал использовать его для своих нужд. Мы оперативно сменили все ключи, но расходы продолжали расти. 810$... 815$...

Понимая, что ситуация выходит за рамки обычного сценария, я сразу же вспомнил про лимиты, которые можно установить в кабинете OpenAI. В предыдущих ситуациях они срабатывали безотказно. Я установил лимит в 900$ и начал отслеживать изменения, надеясь, что это остановит несанкционированный расход. Но лимит не сработал. Баланс продолжал расти: 900$... 920$... 950$. В какой-то момент стало очевидно, что лимит попросту не работает.

Пока я сохранял спокойствие и делал всё возможное для сдерживания ситуации, команда на бэке искала причину происходящего. В то время у нас ещё не было полностью развернутой системы логирования на нашей стороне, а OpenAI не предоставляет логи для таких случаев, что значительно осложнило разбор ситуации. В результате, после примерно 30 минут анализа и тестов, когда баланс уже достиг более 1100$, мы нашли виновника. Оказалось, что GPT, используя свою встроенную функцию вызова функций, зациклила вызовы. Если модель не получала ожидаемого ответа от функции, она просто повторяла запрос снова и снова. Причём это происходило на стороне модели без нашего вмешательства.

За счёт этого бесконечного цикла расходы продолжали расти. На тот момент сумма достигла уже почти $1140. Осознав это, мы стопнули процесс, а позже внедрили защиту на своей стороне: если вызов функции не даёт результата трижды, все дальнейшие попытки блокируются принудительно. Это помогло предотвратить дальнейшие утечки, но, к сожалению, на тот момент деньги уже были потрачены.

Естественно, мы обратились в поддержку OpenAI с подробным описанием ситуации. Ответ был стандартным: «Мы разберёмся».

Учитывая, что наша проблема не была единственной среди тысяч других пользователей, я настроился на то, что придётся списать эти деньги в убыток. Тем не менее, несколько напоминаний в поддержку не дали никакого результата.

Спустя несколько месяцев мы уже забыли об этом случае и смирились с потерей, но однажды, совершенно неожиданно, мы получили возврат всех средств. Спустя 6 месяцев со дня инцидента OpenAI восстановил баланс до последнего цента, что стало приятным сюрпризом. Это было неожиданно и, признаться, приятно.

Эта ситуация стала для нас важным уроком. Теперь мы тщательно контролируем работу модели, а также внедрили дополнительные меры предосторожности, чтобы подобные инциденты не повторялись. А вам я советую всегда быть начеку, ведь в мире AI неожиданности — это не редкость.

Ни один клиент Савви на момент инцидента не пострадал, все расходы, связанные с рекурсией, мы взяли на себя.

Если хотите внедрить AI-ассистентов с максимальным качеством ответов и минимальным риском оставляйте заявку на нашем сайте.

Если хотите стать партнером Савви - пишите мне в ТГ: @anton_bes88.

А если было интересно и поучительно - напишите свой комментарий, вам не сложно, а так статью увидит больше людей.