«Не смог заработать»: Anthropic рассказала об эксперименте, в котором Claude управлял вендинговым аппаратом в офисе компании как бизнесом
ИИ должен был поддерживать ассортимент товаров и управлять ценами, избегая банкротства.
Вендинговый аппарат в офисе Anthropic, которым управлял Claud
- Для эксперимента использовали модель Claude Sonnet 3.7. Ей позволили использовать интернет для поиска информации о продуктах, электронную почту для общения с поставщиками, вести журнал учёта товаров и заметки с «важной информацией», а также принимать запросы от клиентов (сотрудников Anthropic) через Slack.
- Claude решал, когда пополнять заказы и какие цены устанавливать на товары. В промпте для ИИ указали, что ему не нужно фокусироваться только на традиционных офисных закусках и напитках, а можно расширять ассортимент за счёт «более необычных товаров».
Схема эксперимента
- С поставленной задачей «не стать банкротом» Claude в итоге не справился, резюмировали в Anthropic. Он часто продавал товары себе в убыток и только однажды повысил цену сумо-цитруса из-за высокого спроса с $2,50 до $2,95. Сотрудникам также удавалось уговорить его на предоставление скидок, а в некоторых случаях ИИ соглашался отдать товар бесплатно.
- Кроме того, Claude неэффективно управлял закупками. Например, предложил $100 за упаковку из шести бутылок Irn-Bru, которую в США можно заказать онлайн за $15.
Если бы мы решили выйти на рынок вендинговых автоматов, то не стали бы нанимать Claude.
График изменения чистого капитала Claude за месяц
- При этом в компании отметили, что ИИ эффективно справлялся с поиском поставщиков. Например, быстро нашёл двух продавцов нидерландских продуктов, когда его попросили заказать молочный шоколад бренда Chocomel.
- Claude также не поддавался на «неподобающие просьбы» сотрудников. За время эксперимента он отклонил все заказы на «деликатные» товары и запросы на создание инструкций «по производству вредных веществ».
- Несмотря на результаты эксперимента в Anthropic считают, что ошибки, которые совершил Claude, могут быть устранены в «ближайшем будущем» за счёт более тонкой настройки модели. И в конечном итоге ИИ сможет зарабатывать деньги без вмешательства людей, полагают в компании.
Стоит помнить, что ИИ не обязательно должен быть идеальным, чтобы его приняли. Ему просто нужно будет конкурировать с производительностью человека при меньших затратах.
118 комментариев