Токсичность в соцсетях оказалась неискоренима в принципе
Поляризующее влияние соцсетей — это не просто результат плохих алгоритмов. Оно неизбежно из-за самой сути работы платформ, выяснилось в исследовании с ИИ-пользователями. Проблему не решить, пока мы кардинально не переосмыслим онлайн-общение.
В Амстердамском университете провели серию экспериментов с 500 виртуальными пользователями на основе GPT-4o mini. Взяв данные Американского национального электорального исследования, их наделили политическими взглядами широкого спектра — и отправили взаимодействовать друг с другом в упрощенной соцсети без рекламы и алгоритмов. Результаты исследования выложены на сервере препринтов arXiv.
Как и люди, ИИ-агенты чаще подписывались на единомышленников, а пользователи с более радикальными взглядами набирали больше подписчиков и репостов. Внимание в целом смещалось в сторону поляризованного контента.
В предыдущем исследовании авторы пробовали смягчить поляризацию через изменение алгоритмов, но новые данные противоречат этим выводам.
«Мы ожидали, что [поляризация] вызвана алгоритмами, [думали], что платформы специально спроектированы так, чтобы разжигать конфликты ради вовлеченности», — признается социолог Петтер Тёрнберг.
Однако оказалось, что проблема не в алгоритмах, что делает бессмысленными попытки «настроить» платформы против токсичности.
«Мы создали максимально простую соцсеть — и сразу получили такой результат. Это говорит о фундаментальной природе явления: оно заложено в самой системе постов, репостов и подписок», — констатирует исследователь.
Чтобы проверить, можно ли смягчить эти эффекты, исследователи протестировали несколько решений:
- ленту только в хронологическом порядке,
- снижение видимости вирусного контента,
- продвижение противоположных взглядов и рационального контента.
- скрытие количества подписчиков и репостов,
- скрытие биографий профилей.
Большинство мер почти не помогли: межпартийное взаимодействие выросло максимум на 6%, а доля внимания к топ-аккаунтам изменилась на 2–6%. Некоторые меры (например, скрытие биографий) даже усугубили проблему. Улучшения в одной сфере нивелировались ухудшениями в другой: снижение неравенства между пользователями усилило популярность радикальных постов, а смягчение поляризации перенаправило внимание к узкой элите.
«Большинство проблем соцсетей — следствие изначально порочной конструкции. Она поощряет худшие проявления человеческого поведения», — говорит Джесс Мэддокс из Университета Джорджии.
Эти эксперименты — только симуляция, упрощающая реальные механизмы, но они указывают на необходимость глубинных изменений, резюмирует Тёрнберг: «Возможно, нужно не просто корректировать алгоритмы, а полностью переосмыслить структуру взаимодействия и его влияние на политику».
