Искусственный интеллект усиливает наши предубеждения: эксперимент

Системы искусственного интеллекта склонны перенимать и усиливать человеческие предубеждения, что делает самих пользователей более предвзятыми, утверждают ученые Лондонского университета в исследовании, опубликованном в Nature Human Behaviour. Это происходит из-за возникновения «замкнутого круга», при которой предвзятость ИИ и человека взаимно усиливаются, увеличивая вероятность ошибок.

«Люди по своей природе предвзяты, поэтому, когда мы обучаем системы ИИ на наборах данных, созданных людьми, алгоритмы ИИ получают заложенные в данных предубеждения. Затем ИИ использует полученные знания, усиливая эти предубеждения, чтобы повысить точность прогнозов», — объяснила соавтор исследования, профессор Тали Шарот.

Эксперименты с участием 1200 человек показали, что взаимодействие с предвзятым ИИ приводит к усвоению этой предвзятости. Например, в одном из экспериментов людей попросили оценить, выглядят ли лица на фотографиях счастливыми или грустными. Испытуемые чаще воспринимали лица как грустные. Затем эти данные использовали для обучения ИИ, который показал еще большую предвзятость, добавив больше фотографий в категорию «грустные».

Позже второй группе участников показали те же фотографии и попросили дать оценки, предварительно сообщив им решение ИИ по каждой из фотографий. Результат показал, что предвзятость усилилась еще больше.

Другие исследования продемонстрировали влияние ИИ на гендерные предубеждения. Так, ИИ, обученный с предвзятостью, склонял людей переоценивать успешность мужчин. В другом эксперименте ИИ создавал изображения финансовых менеджеров, среди которых почти всегда преобладали белые мужчины. После получения информации о том, что ИИ учитывал свои предпочтения при создании изображений, участники стали чаще считать, что именно белые мужчины подходят на роль финансовых менеджеров.

Доктор Моше Гликман отметил, что предвзятые системы ИИ способны не только отражать, но и изменять взгляды людей. Однако, по его словам, точные и беспристрастные алгоритмы ИИ могут повыситть справедливость и у людей. 

Влияние ИИ на нашу жизнь растет, и ошибки могут привести к серьезным последствиям, если мы не будем тщательно анализировать полученные от них данные, — добавили исследователи.