Новости

«Белые против черных»: алгоритм YouTube заблокировал канал о шахматах за расизм

Искусственный интеллект YouTube заблокировал канал шахматного видеоблогера Антонио Радича, вероятно, приняв обсуждение партии за расистские оскорбления.

Один из самых популярных шахматных каналов на YouTube, который ведет хорватский шахматист-любитель Антонио Радич, был заблокирован летом «за вредоносный контент» после публикации видео с гроссмейстером Хикару Накамурой.

Техподдержка канала отказалась объяснить причины блокировки, и канал был восстановлен через 24 часа. Однако за дело взялись компьютерщики из Университета Карнеги — Меллон, рассказывает Daily Mail. Они провели тесты на двух классификаторах речи, использующих ИИ для обнаружения «языка вражды».

Анализ 680 000 комментариев на шахматных каналах YouTube показал, что 82% комментариев, отмеченных ИИ как «вредоносные», не содержали расистских высказываний, зато упоминали термины «черные», «белые», «атака» и «угроза».

«Мы не знаем, какие инструменты использует YouTube, но, если они полагаются на искусственный интеллект для обнаружения расистских высказываний, такие вещи будут продолжать случаться», — сказал один из исследователей, Ашикур ХудаБухш из Института языковых технологий.

YouTube, в свою очередь, не раскрывает своих алгоритмов, но напомнил, что восстанавливает контент, если тот был удален по ошибке. Для этого владелец канала должен обратиться с запросом в техподдержку.

Чуть ранее алгоритм другой соцсети заблокировал снимок «излишне сексуальной» коровы. Известны также курьезные случаи, когда ИИ перепутал с мячом лысую голову футбольного судьи, а на гонках беспилотных автомобилей отправил болид в стену еще до старта.

Фото: Shutterstock

Слонов сосчитали из космоса с помощью искусственного интеллекта

ИИ оказался способен манипулировать человеком

Читайте также
 Разработано компьютерное устройство, способное учиться по ассоциации, как человеческий мозг
Разработано компьютерное устройство, способное учиться по ассоциации, как человеческий мозг
Устройство биосовместимо: его можно использовать в имплантах.
Как устроено чудо сотворения человека
Как устроено чудо сотворения человека
Наука творит чудеса. Сегодня она может изготовить человека, если сами люди не справляются
«Нынешние 30 лет — это 20 лет в предыдущую эпоху»
«Нынешние 30 лет — это 20 лет в предыдущую эпоху»
Обсуждаем с социологом популярный мем: я/мы в 29 лет и наши родители в 29 лет.