Пропаганда и фейковые новости под угрозой! ИИ может как усугубить, так и помочь

Фейковые новости представляют собой сложную проблему и могут охватывать текст, изображения и видео. В частности, для письменных статей существует несколько способов создания фейковых новостей. Поддельная новостная статья может быть создана путем выборочного редактирования фактов, включая имена людей, даты или статистику. Статья также может быть полностью сфабрикована с вымышленными событиями или людьми.

Поддельные новостные статьи также могут создаваться машинами, поскольку достижения в области искусственного интеллекта упрощают создание дезинформации.

Такие вопросы, как: «Было ли мошенничество на выборах в США в 2020 году?» или «Является ли изменение климата обманом?» можно проверить, проанализировав имеющиеся данные. На эти вопросы можно ответить как истина, так и ложь, но существует вероятность дезинформации, связанной с подобными вопросами.

Фальшивые новости — могут за короткое время нанести ущерб большому количеству людей. Хотя понятие фейковых новостей существовало задолго до технического прогресса , социальные сети усугубили проблему.

Исследование одной соц сети, проведенное в 2018 году, показало, что ложные новости чаще ретвитятся людьми, чем ботами, и на 70% чаще ретвитятся, чем правдивые истории. То же исследование показало, что правдивым историям требовалось примерно в шесть раз больше времени, чтобы дойти до группы из 1500 человек, и, хотя правдивые истории редко доходили до более чем 1000 человек, популярные ложные новости могли распространяться до 100 000 человек.

Обнаружение дезинформации — это только полдела — необходимы решительные действия, чтобы остановить ее распространение. Стратегии борьбы с распространением дезинформации в социальных сетях включают как вмешательство интернет-платформ, так и запуск контркампаний по нейтрализации фейковых новостных кампаний.

Вмешательство может принимать жесткие формы, такие как приостановка действия учетной записи пользователя, или более мягкие меры, такие как пометка сообщения как подозрительного.

Алгоритмы и сети на базе ИИ не надежны на 100%. Вмешательство в настоящий предмет по ошибке, а также невмешательство в поддельный предмет дорого обходится.

С этой целью разработали интеллектуальную политику вмешательства, которая автоматически решает, следует ли вмешиваться в элемент на основе его предсказанной достоверности и предсказанной популярности .

Недавние достижения в области генеративного ИИ, особенно те, которые основаны на больших языковых моделях, таких как ChatGPT, упрощают создание статей с большой скоростью и в значительном объеме, что повышает сложность обнаружения дезинформации и противодействия ее распространению в масштабе и в режиме реального времени. Но сам же ИИ может и распознавать статьи сделанные им же или анализировать информацию по всему миру и давать оценку данной статье.

Хотя искусственный интеллект кажется относительно новой технологией, он уже некоторое время помогает нам сортировать контент.

Технология спам-фильтров — алгоритмы машинного обучения — была первоначально разработана в 1700-х годах. Сегодня мы используем его для ряда задач, таких как категоризация наших электронных писем, чтобы определить, какая корреспонденция полезна, а какая является массовой рассылкой.

Это также привело к развитию технологии нейронных сетей, которая действует как дискриминатор, способный обнаруживать несоответствия в статьях для определения их подлинности.

Некоторые используют сравнительный анализ похожих постов, чтобы проверить, верны ли содержащаяся информация и факты и соответствуют ли они достоверным источникам. Другие ищут различия между заголовком и содержанием, тем самым выявляя статьи с кликбейтом.

Более новым алгоритмом по-прежнему является Grover, который обещает эффективность 92% в обнаружении нечеловеческого контента.

А если вам еще больше интересна тема ИИ, вы хотите знать больше и не пропускать новинки и обзоры, подпишитесь на канал в тг, мне будет приятно -

#будущее #ии #иибудущее #нейросети #фейки #пропаганда #фейкньюс #фейковыеновости #искусственныйинтеллект