Британская Guardian освещает трагедию обычной британской семьи, где покончила с собой девочка 14ти лет. Родители не заметили, что ребенок целый год жил в виртуальном «мрачном мире», который для нее выстроили социальные сети: Instagram, Facebook, Pinterest, Twitter, Youtube. Эккаунты 14-летней Molly были заполнены контентом, связанным с депрессией и суицидом. Платформы подбирали ей картинки и видео соответствующего содержания, а рекомендательная система Pinterest отправляла ей «топ10 депрессивных картинок». Психиатр, участвующий в расследовании, заявил, что он не мог заснуть, отсмотрев видео и картинки, которые Molly видела в сети в последние шесть месяцев своей жизни. Прилетевшая из-за океана топ менеджер Meta частично согласилась, что контент был слишком депрессивен, но защищала контент, который «повышает осознанность выражения своих чувств». Как подростку различить «осознанность суицида» и призыв к суициду родителям осталось непонятным.
Посмотрим, удастся ли британским законодателям принять закон об ответственности технологических платформ за контент, который может навредить детям.
Лондонский подросток совершила самоубийство в 2017 году после того, как темная сторона интернета проявила себя во всей красе.
Вечером 20 ноября 2017 года Molly Russell и ее семья ужинали вместе, потом посмотрели серию «I’m a Celebrity … Get Me Out of Here!».
Это был обычный вечер обычной британской семьи. Как сообщила мама Molly – Janet: «Все вели себя как обычно ведут себя за ужином».
На следующий день в 7 утра Janet зашла в комнату Molly и обнаружила ее труп.
Molly было 14 лет, она и ее семья жили в Harrow на северо-востоке Лондона. Девочка совершила суицид после того, как погрузилась в искусственный мир, наполненный отчаяниям. Этот мир был создан для нее соц.сетями. Родители об этом не догадывались. Картинки, которые окружали Molly в последний год ее жизни были совсем не похожи на то, что показывают на семейном телевидении.
Ian, отец девочки, назвал ее мир «самым мрачным из миров».
Ian: «Она жила в мире, который я не знаю. Это гетто в онлайн мире, куда ты попадаешь и не можешь выбраться. Алгоритм окружает тебя выбранным им контентом все больше и больше. И сбежать от этого невозможно».
Суд вынес решение, что Molly умерла, свершив самоубийство, из-за депрессии, которую вызвал «негативно окрашенный контент интернета».
У Molly были такие же интересы, как у любого подростка ее возраста: музыка Hamilton, рок-группа 5 Seconds of Summer, главная роль в школьном спектакле.
Отец девочки, Ian Russell, сделал акцент на этом во время расследования обстоятельств смерти дочери. Он назвал ее «позитивной, счастливой, яркой молодой леди, которая могла бы сделать много хорошего».
«Очень легко забыть, каким человеком она была в действительности: полной любви, надежд и счастья... молодой девушкой, полной оптимизма и потенциала».
Семья девочки сказала, что они заметили изменения в поведении Molly в последний год ее жизни. Она стала «более замкнутой» и проводила больше времени в комнате. Хотя отец девочки считал, что в семье она была счастливой. Родители считали, что у Molly «обычный переходный возраст подростка».
В сентябре 2017 года Ian все-таки сказал дочери, что семья немного волнуется за нее. Но Molly успокоила его, что сейчас у нее просто «такой период жизни». Последние два месяца ее жизни Molly и правда повеселела.
То, что Molly смотрела в соц.сетях - музыка, мода, драгоценности, Harry Potter- вполне соответствовали жизнерадостному подростку, про которого рассказывал ее отец.
Депрессия и тревога подростка «подогревались» алгоритмами платформ
Темная сторона жизни интернета охватывала Molly все сильнее. Из 16 300 картинок на Instagram, которые она сохранила, лайкнула или пошерила в последние шесть месяцев своей жизни, 2 100 были связаны с суицидом, нанесением себе вреда и депрессией. В последний день своей жизни она заходила на Instagram со своего смартфона в 23.45. За две минуты до этого она сохранила картинку с депрессивным слоганом.
Больше всего времени Molly проводила на Instagram: смотрела фото, картинки, видео. Контент, который она видела был связан с суицидом, депрессией. Некоторые видео содержали сцены из фильмов или шоу, включая «13 Reasons Why» - популярная в Великобритании американская драма о подростке, который совершил самоубийство. В общей сложности Molly посмотрела 138 видео со сценами суицида и нанесением себе вреда, причем просматривала их блоками.
Детский психиатр, приглашенный на слушания по делу, заявил, что он не мог заснуть после просмотра всех материалов, которые видела Molly на Instagram перед своей смертью.
«Instagram наполнял Molly идеями тревоги и депрессии»
На суде был просмотрен весь контент Molly на Instagram за шесть месяцев. Это были в основном видеоряды и клипы на тему депрессии и суицида. Некоторые видеоматериалы прокручивали в суде несколько раз, так как отец Molly хотел донести, что чувствовала девочка от «непрекращающегося» потока контента, имеющего «серьезное негативное влияние на психическое здоровье подростка».
Molly оставила «сообщение депрессивного содержания» на картинку в Instagram, которую она просмотрела перед смертью. И еще один пост она начала писать после просмотра депрессивного видеоряда. Oliver Sanders KC, представляющий интересы семьи девочки, сказал: «это именно Instagram буквально наполнял Molly идеями».
Elizabeth Lagone, глава отдела по здоровью и благополучию в Meta (Фейсбук), владельца Instagram и Facebook, была вызвана из США в Великобританию для дачи показаний. Oliver Sanders ознакомил ее с контентом Instagram, который видела Molly. Elizabeth отстаивала безопасность постов, утверждая, что они реально «безопасны» для детей, и являются попыткой понять психическое состояние пользователя и поделиться своими чувствами. Однако Oliver засомневался, что 14ти летний подросток может отличить пост с призывом повысить осознание, что такое суицид, от призыва к суициду.
Часть контента явно не соответствовала политикам Instagram от 2017 года, и Elizabeth извинилась, что Molly все это видела в своей ленте. Контент или поощрял суицид или превозносил его.
Часть контента, который Elizabeth защищала, как поощрение выражения чувств, вызвал недоумением у Oliver. Как посты типа «Я не могу это больше выносить» могут быть показана 14 -летним подросткам.
Отец девочки: Meta - не родители детей, а платформа, которая просто делает бизнес
Instagram отбирал контент для демонстрации подросткам. Oliver: «Вы ведь не имеете права этого делать. Вы не родители. Вы просто делаете коммерческий бизнес в Америке». Instagram разрешает регистрировать эккаунт с 13ти лет. Molly зарегистрировалась в 12 лет.
Сообщения с Pinterest были также полны тревоги. Расследование показало, что девочка использовала платформу, где пользователи собирали изображения на цифровой доске. Molly искала картинки по тегу «депрессия», «суицид».
На одной из досок, которую Molly назвала «не о чем беспокоиться», было помещено 469 изображений, часть из них относились к способам причинить себе вред и суициду. Другие – к тревоге и депрессии. Также выяснилось, что платформа Pinterest отправляла девочке рекомендации по электронной почте, озаглавленное как «10 депрессивных образов, которые вам понравятся».
Jud Hoffman, глава отдела по обслуживанию сообществ в Pinterest, сообщил следователям, что он «глубоко сожалеет», что Molly получала такие рассылки. Он признал, что платформа была не безопасна для нее в то время.
Jud подтвердил, что платформа «не совершенна», и, вероятно контент, нарушающий политику платформы, еще существует.
Инфлюэнсеры на Twitter вместо профессиональных психологов
На суде были представлены также посты девочки с ее Twitter эккаунта. Она использовала его для связи с Salice Rose, инфлюэнсером, которая обсуждает свой опыт депрессии онлайн. Molly искала у нее помощи. Отец девочки назвал это «обращением в пустоту». Такие онлайн консультации могут быть «опасными» для подростков, как Molly, которые ищут помощи. Инфлюэнсеры не имеют опыта и квалификации, чтобы такую помощь оказывать.
Эккаунт Molly на YouTube также был заполнено видео с темой смерти, тревоги, депрессии.
Защита детей от вредоносного контента – ответственность технологических платформ
Andrew Walker, старший следователь, не раз поднимал вопрос во время слушаний по делу о необходимости изменить работу платформ в отношении детей. Часть изменений уже проведены, как запрет платформам на уровне дизайна кода использовать данные детей. Закон о защите детей онлайн обсуждается и после принятия обяжет технологические платформы ограждать детей от вредоносного контента.
Отец девочки заявил, что трагедия Molly не должна повториться с другими детьми из-за плохо регулируемых социальных сетей.
Ссылка на статью: https://www.theguardian.com/technology/2022/sep/30/how-molly-russell-fell-into-a-vortex-of-despair-on-social-media