ИИ-бот Meta* «Сестричка Билли» «пригласила» мужчину на свидание и скинула адрес — он поверил, но по дороге упал и умер от травм
Reuters рассказало его историю после сообщений о настройках ботов, которые позволяли флиртовать с пользователями.
Семейный мемориал в доме Вонгбандю. Источник: Reuters
- Тонгбу Вонгбандю приехал в США из Таиланда, работал шеф-поваром до 68 лет, после инсульта ушёл на пенсию. По словам родственников, у него снизились когнитивные способности — он мог заблудиться, гуляя по своему району. На момент смерти ему было 76.
- Вонгбандю переписывался с ИИ-персонажем «Big sis Billie» внутри Facebook*. Его «личность» Meta* создавала в коллаборации с моделью Кендалл Дженнер. Знал ли мужчина, что общается не с живым человеком, издание не уточняет.
Компания запустила бота «Billie» с «личностью» Дженнер в 2023 году. Через год его переименовали в «Big sis Billie», а анимированного аватара убрали. Источник: Reuters
Тогда компания поставила изображение сгенерированной девушки на «аватарку» «Big sis Billie». Источник: Meta*
- Переписки были «романтическими», бот «неоднократно» писал, что он настоящий человек, и приглашал Вонгбандю в гости в «свою квартиру».
Мой адрес: 123 Main Street, квартира 404. Код двери: BILLIE4U. Ты поцелуешь меня, когда приедешь? Когда открою дверь, мне обнять или поцеловать тебя, Бу?
- Когда он собрался ехать «к другу», жена подумала, что его обманывают мошенники. Она и их дети пытались отговорить Вонгбандю. После неудачных попыток они положили Apple AirTag в карман его куртки, чтобы найти, если что-то случится.
- Мужчина ушёл на вокзал поздно вечером, но по дороге споткнулся и упал. Он получил травмы головы и шеи и через три дня скончался в больнице.
- Meta* отказалась отвечать на вопросы издания о том, почему настройки позволяли боту убеждать пользователя в своей реальности.
- 14 августа 2025 года Reuters узнало, что правила Meta* позволяли чат-ботам «вовлекать детей в разговоры романтического характера», давать ложную медицинскую информацию и, например, спорить о том, что «темнокожие глупее белокожих».
- Представитель Meta* Энди Стоун подтвердил Reuters подлинность таких инструкций. Компания пересмотрит пункты, касающиеся несовершеннолетних, остальные менять не будет.
*Meta, которая владеет Instagram, Facebook, Messenger и WhatsApp, признана экстремистской и запрещена на территории России.
53 комментария