«Белые против черных»: алгоритм YouTube заблокировал канал о шахматах за расизм
Искусственный интеллект YouTube заблокировал канал шахматного видеоблогера Антонио Радича, вероятно, приняв обсуждение партии за расистские оскорбления.
Один из самых популярных шахматных каналов на YouTube, который ведет хорватский шахматист-любитель Антонио Радич, был заблокирован летом «за вредоносный контент» после публикации видео с гроссмейстером Хикару Накамурой.
Техподдержка канала отказалась объяснить причины блокировки, и канал был восстановлен через 24 часа. Однако за дело взялись компьютерщики из Университета Карнеги — Меллон, рассказывает Daily Mail. Они провели тесты на двух классификаторах речи, использующих ИИ для обнаружения «языка вражды».
Анализ 680 000 комментариев на шахматных каналах YouTube показал, что 82% комментариев, отмеченных ИИ как «вредоносные», не содержали расистских высказываний, зато упоминали термины «черные», «белые», «атака» и «угроза».
«Мы не знаем, какие инструменты использует YouTube, но, если они полагаются на искусственный интеллект для обнаружения расистских высказываний, такие вещи будут продолжать случаться», — сказал один из исследователей, Ашикур ХудаБухш из Института языковых технологий.
YouTube, в свою очередь, не раскрывает своих алгоритмов, но напомнил, что восстанавливает контент, если тот был удален по ошибке. Для этого владелец канала должен обратиться с запросом в техподдержку.
Чуть ранее алгоритм другой соцсети заблокировал снимок «излишне сексуальной» коровы. Известны также курьезные случаи, когда ИИ перепутал с мячом лысую голову футбольного судьи, а на гонках беспилотных автомобилей отправил болид в стену еще до старта.
Фото: Shutterstock