Что на самом деле заставляет людей доверять ИИ — показало исследование
Исследование, опубликованное в журнале Computers in Human Behavior, показывает, что люди оценивают искусственный интеллект не по простому критерию «дружелюбный или рациональный». Гораздо важнее оказывается другое: насколько стиль общения системы соответствует конкретной ситуации и характеру морального выбора. Авторы работы — Ляньшань Чжан и Мэй Инь Чжао.
«Чат-боты на основе ИИ все чаще используются не только для непринужденного общения, но и в контекстах, где их рекомендации могут иметь моральные или социальные последствия», — отмечает Чжан.
Как устроили эксперимент
В исследовании участвовали 447 человек, набранных через онлайн-панель в Китае. Участники общались с экспериментальным чат-ботом, созданным на платформе.
Сначала они проходили короткий диалог о стрессе. Бот при этом демонстрировал один из двух стилей:
- эмпатичный и «теплый»;
- или формальный и ориентированный на задачу.
Затем участникам давали моральную дилемму. Варианты различались по степени тяжести — от относительно безопасных последствий до ситуаций, где речь шла о жизни людей. Чат-бот предлагал решение:
- либо утилитарное (максимизация общего блага),
- либо деонтологическое (запрет причинения вреда вне зависимости от результата).
После этого участники оценивали систему по шкале доверия, моральной «субъектности» и эмоциональной воспринимаемости.
Главный результат: стиль сам по себе не работает
Один из ключевых выводов оказался неожиданным:
«Простое повышение дружелюбности чат-бота не заставляло людей автоматически воспринимать его как более морально эмоционального», — говорит Чжан.
То же касается и рационального стиля: сам по себе он не повышал доверие.
Решающим фактором оказалось другое — соответствие между тоном общения и характером морального решения.
Контекст важнее тона
В простых ситуациях участники чаще доверяли «доброму» и эмпатичному ИИ. Такой стиль воспринимался как сигнал заботы.
Но в сложных дилеммах, особенно связанных с риском для жизни, картина менялась. Там выше оценивался более строгий и компетентный стиль общения, особенно если бот предлагал сложные утилитарные решения.
«Главный вывод заключается в том, что заслуживающий доверия ИИ — это не обязательно самый доброжелательный ИИ или ИИ, звучащий наиболее профессионально. Важно то, соответствует ли его стиль общения моральной ситуации», — подчеркивает Чжан.
Интересный эффект возник и вокруг утилитарных решений: участники иногда приписывали больше «моральных эмоций» тем системам, которые допускали причинение вреда одному человеку ради спасения многих. Это выглядело противоречиво, но исследователи связывают это с восприятием «ответственного выбора», а не холодного расчета.
Как отмечают авторы иссследования, проблема доверия к ИИ не решается простым добавлением эмпатии.
«Наши выводы показывают, что „больше эмпатии“ — не всегда решениею. В сложных ситуациях людям нужны ясные объяснения, прозрачность и понимание границ возможностей системы», — отмечает Чжан.
Люди не просто реагируют на «тон» системы. Они оценивают, уместен ли этот тон в конкретной моральной ситуации и совпадает ли он с логикой принятого решения.
