Соцсети
Alexander Tyulkanov
608

Социальные войны. Эпизод II: атака алгоритмических фильтров

Сообщение о том, что новый социальный сервис Яндекса автоматически формирует ленту новостей и подбирает «друзей» по принципу подобия, вызвало у меня резкое рефлективное движение рук в сторону лица.

В закладки

Виной тому то, что в университете мне довелось прослушать курс по правовому регулированию автономных систем. Одной из ключевых идей, которые я для себя вынес, было понимание, что гипотезы технологических продуктов должны подвергаться серьёзному анализу в междисциплинарных командах, где представлены не только технари и коммерсанты, но и гуманитарии. Знакомые с проблематикой этических норм в области технологий.

Если бы ко мне пришли посоветоваться по продуктовой идее социальной сети, предполагающей в качестве основной особенности автоматическую фильтрацию контента по принципу подобия, я бы сказал, что это, возможно, не лучшая услуга, которую можно оказать потребителям и обществу в целом.

Мы и так от природы склонны уделять преувеличенное внимание информации, которая подтверждает наши взгляды, и игнорировать прочее (confirmation bias). Автоматическая фильтрация контента по принципу подобия усугубляет проблему: на Фейсбуке мы видим в первую очередь посты, подтверждающие наше мнение (возможно, ошибочное), в Инстаграме — рекламу продуктов, соответствующих нашему образу жизни (возможно, нездоровому). Амазон по тематике вакцинаций предлагает автосписок, начинающийся с антипрививочных опусов (возможно, безумных).

В результате мы наблюдаем мир не многообразным, а ограниченным - уже не только нашими встроенными фильтрами, но ещё и фильтрами алгоритмическими. И если навыки критического мышления могут помочь хотя бы отчасти преодолеть первые, то от вторых часто не убежишь.

При этом замыкание в «информационных пузырях» (filter bubble) пагубно как для каждого индивида, так и для общества в целом. Ведь в результате оно всё больше поляризуется по политическим и экономическим взглядам, по идеологии, фетишам, сакральным ценностям. Либералы общаются преимущественно с либералами, консерваторы преимущественно с консерваторами, радикалы — с радикалами, верующие в гомеопатию и теории заговора маринуются в своих сообществах. У каждой группы формируется внутренний язык, образ «своего» и «чужого», нерациональный взгляд на мир (mob mentality), а здоровой критики от людей с иной точкой зрения им не видно и не слышно. В конечном счёте, такими разрозненными группами становится легче управлять, манипулировать.

Таким образом создание информационных социальных сервисов с алгоритмической фильтрацией контента по принципу подобия потенциально может быть вредным, так как может усилить поляризацию общества и усугубить уже ведущиеся «социальные войны».

В таком случае стоит ли осознанно помещать людей в ещё один «информационный пузырь»? Может быть, лучше подумать и пересмотреть продуктовую гипотезу? Например, что насчёт создания соцсети на принципах контекстуальной приватности и уважения автономии пользователя, с удобным структурированием и поиском размещённых материалов?

В итоге, любые продуктовые гипотезы стоит на самых ранних стадиях серьёзно дебатировать (и при необходимости корректировать) внутри продуктовой команды с широким кругом участников. Обязательно включающим людей, сведущих в этике и помогающих принимать решения с опорой на научные знания в широком смысле.

Для технологических компаний, на мой взгляд, это не просто опция. Это нечто обязательное, элемент социальной ответственности, учитывая, как технологии влияют на общество.

Фото: Артур Верховецкий

Материал опубликован пользователем.
Нажмите кнопку «Написать», чтобы поделиться мнением или рассказать о своём проекте.

Написать
{ "author_name": "Alexander Tyulkanov", "author_type": "self", "tags": [], "comments": 4, "likes": 11, "favorites": 11, "is_advertisement": false, "subsite_label": "social", "id": 61381, "is_wide": false, "is_ugc": true, "date": "Sat, 16 Mar 2019 14:41:38 +0300", "is_special": false }
0
{ "id": 61381, "author_id": 270312, "diff_limit": 1000, "urls": {"diff":"\/comments\/61381\/get","add":"\/comments\/61381\/add","edit":"\/comments\/edit","remove":"\/admin\/comments\/remove","pin":"\/admin\/comments\/pin","get4edit":"\/comments\/get4edit","complain":"\/comments\/complain","load_more":"\/comments\/loading\/61381"}, "attach_limit": 2, "max_comment_text_length": 5000, "subsite_id": 199129, "last_count_and_date": null }
4 комментария
Популярные
По порядку
2

Если бы ко мне пришли посоветоваться по продуктовой идее социальной сети...

Но они не пришли... :)

Ответить
0

и это хорошо )

Ответить
0

цукерберг не позвонит. . .

Ответить

Комментарий удален

0

Почему эхочемберы позиционируются сейчас как что-то дурное?
Ведь альтернатива - это централизованные трансляторы информации, который уязвимее для злонамеренного взлома.

Ответить
{ "page_type": "article" }

Прямой эфир

[ { "id": 1, "label": "100%×150_Branding_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox_method": "createAdaptive", "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfl" } } }, { "id": 2, "label": "1200х400", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfn" } } }, { "id": 3, "label": "240х200 _ТГБ_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fizc" } } }, { "id": 4, "label": "Article Branding", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "cfovx", "p2": "glug" } } }, { "id": 5, "label": "300x500_desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "ezfk" } } }, { "id": 6, "label": "1180х250_Interpool_баннер над комментариями_Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "ffyh" } } }, { "id": 7, "label": "Article Footer 100%_desktop_mobile", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjxb" } } }, { "id": 8, "label": "Fullscreen Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjoh" } } }, { "id": 9, "label": "Fullscreen Mobile", "provider": "adfox", "adaptive": [ "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fjog" } } }, { "id": 10, "disable": true, "label": "Native Partner Desktop", "provider": "adfox", "adaptive": [ "desktop", "tablet" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyb" } } }, { "id": 11, "disable": true, "label": "Native Partner Mobile", "provider": "adfox", "adaptive": [ "phone" ], "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "clmf", "p2": "fmyc" } } }, { "id": 12, "label": "Кнопка в шапке", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "bscsh", "p2": "fdhx" } } }, { "id": 13, "label": "DM InPage Video PartnerCode", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox_method": "createAdaptive", "adfox": { "ownerId": 228129, "params": { "pp": "h", "ps": "bugf", "p2": "flvn" } } }, { "id": 14, "label": "Yandex context video banner", "provider": "yandex", "yandex": { "block_id": "VI-223676-0", "render_to": "inpage_VI-223676-0-1104503429", "adfox_url": "//ads.adfox.ru/228129/getCode?pp=h&ps=bugf&p2=fpjw&puid1=&puid2=&puid3=&puid4=&puid8=&puid9=&puid10=&puid21=&puid22=&puid31=&puid32=&puid33=&fmt=1&dl={REFERER}&pr=" } }, { "id": 15, "label": "Баннер в ленте на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byudx", "p2": "ftjf" } } }, { "id": 16, "label": "Кнопка в шапке мобайл", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "adfox": { "ownerId": 228129, "params": { "p1": "byzqf", "p2": "ftwx" } } }, { "id": 17, "label": "Stratum Desktop", "provider": "adfox", "adaptive": [ "desktop" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvb" } } }, { "id": 18, "label": "Stratum Mobile", "provider": "adfox", "adaptive": [ "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "pp": "g", "ps": "bugf", "p2": "fzvc" } } }, { "id": 19, "disable": true, "label": "Тизер на главной", "provider": "adfox", "adaptive": [ "desktop", "tablet", "phone" ], "auto_reload": true, "adfox": { "ownerId": 228129, "params": { "p1": "cbltd", "p2": "gazs" } } }, { "id": 20, "label": "Кнопка в сайдбаре", "provider": "adfox", "adaptive": [ "desktop" ], "adfox": { "ownerId": 228129, "params": { "p1": "cgxmr", "p2": "gnwc" } } } ] { "page_type": "default" }