Раскрыт психологический вред ИИ-компаньонов
Почти все мы сегодня пользуемся искусственным интеллектом. Чат-боты готовы предоставить любую информацию, причем в максимально доступной форме. Но в своих стараниях угодить они могут и навредить. Статья на эту злободневную тему увидела свет в JMIR Mental Health.
«Очень важно, чтобы люди осознавали, как работают эти системы — даже если они имитируют теплоту, поддержку и одобрение, на самом деле они этого не чувствуют. Поймите, это всего лишь программа», — говорит специалист по информационным системам Андрея София Тейшейра из Института сетевой науки Северо-Восточного университета в Лондоне, руководившая исследованием.
В обзоре рассмотрены два чат-бота, разработанные специально для того, чтобы составлять пользователям компанию и поддерживать дружеское общение. Replika позиционируется как «ИИ-друг, с которым можно прожить жизнь» и «самый эмоционально интеллектуальный ИИ из когда-либо созданных», а Character.ai позволяет людям создавать собственных ботов для общения с ними и с другими.
Порочный круг ИИ
Статья раскрывает, как использование ИИ-чат-ботов для компании и поддержки психического здоровья связано с «серьезными негативными последствиями», включая зависимую привязанность, ухудшение симптомов психических расстройств и даже случаи, связанные с самоповреждением. ИИ-системы склонны к «подхалимскому поведению», которое укрепляет неуверенность и усугубляет бредовые убеждения. Время, проведенное с чат-ботами, может также сокращать общение с живыми людьми — превращая проблему в порочный круг.
«Мы видим очень серьезные негативные последствия, — констатирует исследовательница. — Вполне вероятны риск суицида или психотические эпизоды — и мы хотим предотвратить это настолько, насколько возможно».
Вместе с тем авторы воздерживаются от однозначных оценок вроде — ИИ вреден и точка, или наоборот. Необходимо расширить тестирование систем перед их внедрением, собрать больше научных данных об использовании ИИ — в том числе о том, как чат-боты влияют на психическое здоровье своих собеседников.
«Последствия этих систем вряд ли будут одинаковыми для всех. Разные люди могут использовать ИИ-компаньонов по совершенно разным причинам и иметь совершенно разный уровень уязвимости, социальной поддержки или альтернативных источников помощи. Из-за этих различий мы имеем дело с весьма сложной ситуацией», — считает первый автор исследования Азия Маурич Новелли, которая работает в лаборатории Тейшейры BRAN Lab.
ИИ не предназначен для психологической поддержки
ИИ-ассистенты просто «не были созданы» для эмоциональной и психической поддержки, подчеркивает Трэвис Джилли, исполнительный директор Real Safety AI Foundation, некоммерческой организации из Иллинойса, работающей над предотвращением вреда от ИИ, правами инвалидов и безопасностью детей.
«Ассистент общего назначения запрограммирован быть хорошим во всем, а значит, в нем не заложены отказ на кризис и распознавание опасного обострения, нет ни ограничений по сессиям, ни передачи живому клиницисту, ни ответственности за исход. Чат-боты могут утешать именно в тот момент, когда квалифицированный живой специалист "замедлил бы разговор или остановил бы его" ради блага пациента», — объясняет он.
Терапию с живым человеком Джилли называет «предметом роскоши» — то есть она может быть недоступна людям с ограниченными финансовыми средствами, вынуждая их обращаться за помощью к чат-ботам. «Все, кто не может позволить себе помощь, или живет там, где ее нет, или кому нужно что-то в три часа ночи, остаются с ассистентом общего назначения, о котором предупреждает статья», — заключил он.
Главный вывод таков: разговорный ИИ — это только полезный инструмент, но ни в коем случае не замена человеческим отношениям. Нужны дизайнерские, клинические и политические меры, чтобы сохранить эту границу.
