Счётчик калорий напишет бывшему, если съесть лишнее. Я делаю агента, которому дают то же право

Вчера в X разработчик из Нью-Йорка показал свой домашний проект: счётчик калорий внутри iMessage. Перебрал дневную норму, и приложение отправляет сообщение бывшему. На превью проект называется MyFitnessEx, и автор спрашивает подписчиков, выпускать ли его.

Разработчик из Нью-Йорка в X, 2,2 тыс. просмотров. Перевод наш.
Разработчик из Нью-Йорка в X, 2,2 тыс. просмотров. Перевод наш.

Над этим смеются, хотя механика старая и рабочая. Экономисты называют её добровольным обязательством: человек заранее назначает себе цену за срыв, и цена должна быть неприятной. На сервисе stickK, который придумали экономисты из Йеля, можно поставить деньги на свою цель, и при срыве они уйдут организации, которую вы терпеть не можете. Бывший в этой схеме просто самая дорогая валюта, какую можно придумать.

Меня в этой идее зацепило, почему она пугает. Страшно не то, что приложение знает про печенье. Страшно, что у него есть право написать конкретному человеку от вашего имени, а текст вы не увидите до отправки.

Я делаю «Сам Решу», ИИ-агента для бизнеса, и это право мы ему даём каждый день: он пишет поставщикам, отвечает покупателям, отправляет письма со своего адреса. Поэтому первым делом решали, где он останавливается. Письмо на адрес, которому агент ещё не писал, сначала приходит владельцу карточкой: кому, тема, текст целиком и кнопки «Одобрить», «Отклонить», «Всегда разрешать». «Всегда» привязывается к этому адресу. Если разрешили писать Ивану, Петру агент без новой карточки не напишет.

Ответ в переписке, где агент уже писал всем получателям, карточки не ждёт. Но стоит добавить в копию нового человека, и карточка появится снова.

Счётчик калорий устроен ровно наоборот: адресата выбрали заранее, текст пишет программа, а срабатывает она в момент, когда вы слабее всего. Для шутки это идеально. Для агента, которому отдали почту и мессенджеры, это список того, чего быть не должно.

Вы бы разрешили программе писать кому-то от вашего имени, не глядя на текст? Кому именно?

11