AI-бунт в Los Angeles Times: бот оправдал Ку-клукс-клан и был отправлен в металлолом

История звучит как начало мрачного эпизода из «Чёрного зеркала», но всё случилось в реальности. Краткая историческая справка в конце или что общего между Микки-Маусом и белым колпаком 🤔?

Газета Los Angeles Times с гордостью представила вчера свою свежую разработку: инструмент на базе ИИ под красивым названием Insights, который должен был анализировать статьи и выдавать читателям разные точки зрения на их содержание. Идея крутая, даже полезная: читаешь новость и сразу получаешь аргументы «за» и «против». Звучит адекватно и очень в духе времени.

Но уже сегодня утром в редакции случился жуткий переполох.

Что пошло не так?

Insights немного заигрался в объективность и в одной из статей (рассказывающей о Ку-клукс-клане и его влиянии на историю Анахайма,), посвящённой истории Ку-клукс-клана (да-да, той самой организации в белых капюшонах), выдал довольно спорный анализ.

Двойные стандарты?

ККК – г*вн*. Тут спорить особо не с чем. Но то, что бота сразу снесли тоже, мягко говоря, печально.

Что теперь?

Теперь Los Angeles Times, скорее всего, либо вообще откажется от AI в аналитике, либо сделает его настолько кастрированным, что он будет выдавать только нейтральное, максимально “безопасное” мнение. Что, конечно, удобно – но убивает саму суть инструмента.

Так что да. ККК – г*вн*. Но и эта ситуация показывает, что пользователи сами загоняют себя в интеллектуальный пузырь, где сложные темы нельзя обсуждать.

Краткая историческая справка:

Сто лет назад в Анахайме творилась какая-то лютая дичь: Ку-клукс-клан захватил почти весь городской совет и даже посадил своего мэра, типа они тут хозяева. Тот самый город, где теперь люди фоткаются с Микки Маусом и хавают сладкую вату, сто лет назад был филиалом расистских фанатов белого протестантского превосходства. Правда, ненадолго, потому что местные быстро просекли, что ребята в белых колпаках совсем уж оборзели, и дали им пинка под зад. Короче, сказка закончилась, но осадочек остался.