Нейросеть научили распознавать фейковые новости

Команда американских исследователей разработала алгоритм, который отсеивает фальшивые новости

Команда американских исследователей разработала алгоритм, который отсеивает фальшивые новости.

Инструмент на основе искусственного интеллекта был разработан ИТ-специалистами Гарвардского университета и Массачусетского технологического института (MIT) в целях противодействия недостоверной журналистике. Нейросеть, которая распознаёт текст, написанный программой, может положить конец поддельным новостям и ложным обзорам. Алгоритм GLMTR (Giant Language model Test Room) основан на прогнозном моделировании языка, которое позволяют компьютерам и ботам писать копии разных текстов. Программа предполагает, что сгенерированный компьютером текст использует очевидные слова в нужной последовательности. Человек же часто выбирает слова, которые не может предсказать машина, но которые при этом передают актуальное смысловое содержание. GLTR ищет в тексте машинные шаблоны и выделяет наиболее предсказуемую последовательность слов как подозрительную.

Согласно результатам исследований, GLTR улучшил показатели распознавания поддельного текста с 54% до 72%. По мнению разработчиков, это означает, что дни дезинформации могут быть сочтены. Программа может также идентифицровать поддельные профили в учётных записях социальных сетей. Основное ограничение алгоритма пока заключаются в том, что он не может выявлять слишком масштабные подделки, однако команда разработчиков собирается усовершенствовать нейросеть.