Распознавание нейросетью фейковых новостей по их тексту

«Фейковые» новости обычно обладают рядом отличий: они содержат больше эпитетов, воздействуя на эмоции, имеют утвердительный тон и т.д. Я предлагаю научить нейронную сеть вылавливать из текста подобные ключевые слова и с их помощью определять «фейковость» новости.

Для примера обучим нейросеть отличать «фейковые» новости от реальных на основе соответствующего датасета.

Датасет df_news можно скачать с репозитория github по ссылке, указанной в конце. Он содержит тексты новостей и метки, обозначающие «фейковые» новости (1) и реальные (0). Количество «фейковых» и реальных новостей примерно одинаково. Вид датасета представлен ниже.

После получения текстов, в первую очередь, следует предварительно обработать их: убрать знаки пунктуации, стоп-слова (предлоги, союзы, местоимения) и привести слова в нормальную форму, чтобы разные формы одного и того же слова не считались за различные слова.

Чтобы убрать знаки пунктуации и разделить текст на отдельные слова применим класс RegexpTokenizer из библиотеки nltk. С помощью регулярного выражения в нём задаются символы, которые должны содержать слова. В данном случае в качестве таких символов выступают буквы русского и латинского алфавита.

Далее, из полученного набора слов отбрасываются стоп-слова, множество которых можно получить через nltk, а оставшиеся слова обрабатываются с помощью лемматизатора в классе MorphAnalyzer из библиотеки pymorphy2. Суть лемматизатора заключается в том, что он приводит слово к своей нормальной форме – лемме. Для существительных и прилагательных это будет именительный падеж в единственном числе, для глаголов, причастий и деепричастий – инфинитив.

Теперь обработанные тексты нужно привести в форму, понятную для нейронной сети. Для этого возьмём модель Word2vec, где каждому слову ставится в соответствие некоторый вектор. Чтобы лучше понять суть этого подхода приведу простую аналогию.

Возьмём координатную плоскость и в случайном порядке расставим на ней точки. У каждой точки будет значение координат по осям X и Y, с помощью которых можно оценивать взаимное расположение точек, вычислять расстояние между ними и, самое главное, перенести их представление в компьютер.

Такой же подход применяется и в Word2vec, но только по отношению к словам, переводя их в вектор. Обучить такую модель можно и на датасете фейковых новостей, но если будут новости, содержащие новые слова, то всё придётся переобучать заново. С сайта rusvectores можно скачать такую модель для русского языка уже предварительно обученную на большом количестве слов. Подгружается она с помощью библиотеки gensim.

Эта модель принимает на вход слова с указанием части речи, поэтому тексты требуется ещё раз обработать. Часть речи слов можно было бы получить и с помощью pymorphy2, но в pymorphy2 используются тэги частей речи, принятые в OpenCorpora, а в моделях rusvectores они соответствуют формату Universal PoS Tags. Такие теги можно получить через модель UDPipe, предварительно обученную на словах русского языка.

Протестируем Word2vec на слове «учитель», найдем наиболее похожие по смыслу, с указанием части речи.

Среди слов ещё остались местоимения («это», «который», «оно» и т.д), имена собственные, числительные и просто слова с ошибками. Такие слова модель Word2vec обработать не сможет, так как они отсутствуют в словаре модели, поэтому их нужно отбросить.

Наконец, нужно заменить слова на соответствующие индексы словаря Word2vec и разбить на обучающую и тестовую выборки.

Теперь тексты полностью обработаны и готовы для обучения. Осталось заключительное действие – обучение нейросети. Первым слоем идёт модель Word2vec, преобразующая индексы слов, полученные ранее, в соответствующие векторы. Далее идут два полносвязных слоя Dense, между которыми проложен слой Dropout для предотвращения переобучения.

Параметры для слоёв нейросети были подобраны таким образом, чтобы получить наилучший результат.

За 20 эпох обучения модель добилась точности в 95% на тестовой выборке. Это значит, что полученная модель может распознать «фейковость» новости по ее тексту с большой долей вероятности.

Проверим модель на «фейке», появившимся совсем недавно — про заморозку вкладов у населения.

Как видно, с таким заданием нейросеть справилась хорошо и с вероятностью 94% определила «фейк».

Ссылка на репозиторий github