Искусственный интеллект нашел гендерную предвзятость в известных сказках
Группа ученых из нескольких университетов США и лаборатории IBM Research создала систему искусственного интеллекта, которая может анализировать тексты и выявлять случаи гендерной предвзятости. Их исследование опубликовано на сервере препринтов arXiv, о нем рассказали в Северо-восточном университете.
Авторы нового алгоритма надеются, что программу, похожую на проверку орфографии, будут использовать писатели, издатели, ученые для создания более инклюзивных историй для детей.
Команда интересовалась сказками как инструментом для изучения маленькими детьми языка и собрала сотни историй со всего мира, чтобы использовать для обучения своего алгоритма. Выяснилось, что сказки, откуда бы они ни пришли, содержали в себе «упрямые и глубокие» гендерные стереотипы. Авторы работы утверждают, что в дестких сказках женские персонажи часто пассивны, в то время как мужские их спасают, совершая подвиги и активно действуя.
Разработчики создали автоматизированные процессы для извлечения имен и пола персонажей, соотнеся с разными событиями. Из 33 577 событий, проанализированных в исследовании, 69% были отнесены к персонажам мужского пола и 31% — женского. Действия, связанные с женскими персонажами, часто были связаны с домашними делами, в то время как мужских — с неудачей, успехом или агрессией. В итоге Ван и его команда создали инструмент обработки естественного языка, который может найти предвзятость в целых цепочках событий.
В будущем они хотят создать нейросеть, которая сможет не только указывать автору на гендерную предвзятость в его произведении, но и советовать, как исправить «ошибку».
«Если у меня будет дочь, я не хочу, чтобы она боялась браться за задачи или преодолевать проблемы, ожидая, что кто-то придет и спасет ее. Подобные инструменты ИИ могут помочь препятствовать тому, чтобы фильмы, книги и пр. передавали эти устаревшие, вредные идеи следующему поколению», — говорит Дакуо Ван, доцент Северо-Восточного университета и один авторов исследования.
