Счётчик калорий напишет бывшему, если съесть лишнее. Я делаю агента, которому дают то же право
Вчера в X разработчик из Нью-Йорка показал свой домашний проект: счётчик калорий внутри iMessage. Перебрал дневную норму, и приложение отправляет сообщение бывшему. На превью проект называется MyFitnessEx, и автор спрашивает подписчиков, выпускать ли его.
Над этим смеются, хотя механика старая и рабочая. Экономисты называют её добровольным обязательством: человек заранее назначает себе цену за срыв, и цена должна быть неприятной. На сервисе stickK, который придумали экономисты из Йеля, можно поставить деньги на свою цель, и при срыве они уйдут организации, которую вы терпеть не можете. Бывший в этой схеме просто самая дорогая валюта, какую можно придумать.
Меня в этой идее зацепило, почему она пугает. Страшно не то, что приложение знает про печенье. Страшно, что у него есть право написать конкретному человеку от вашего имени, а текст вы не увидите до отправки.
Я делаю «Сам Решу», ИИ-агента для бизнеса, и это право мы ему даём каждый день: он пишет поставщикам, отвечает покупателям, отправляет письма со своего адреса. Поэтому первым делом решали, где он останавливается. Письмо на адрес, которому агент ещё не писал, сначала приходит владельцу карточкой: кому, тема, текст целиком и кнопки «Одобрить», «Отклонить», «Всегда разрешать». «Всегда» привязывается к этому адресу. Если разрешили писать Ивану, Петру агент без новой карточки не напишет.
Ответ в переписке, где агент уже писал всем получателям, карточки не ждёт. Но стоит добавить в копию нового человека, и карточка появится снова.
Счётчик калорий устроен ровно наоборот: адресата выбрали заранее, текст пишет программа, а срабатывает она в момент, когда вы слабее всего. Для шутки это идеально. Для агента, которому отдали почту и мессенджеры, это список того, чего быть не должно.
Вы бы разрешили программе писать кому-то от вашего имени, не глядя на текст? Кому именно?